Aufrufe
vor 4 Monaten

die bank 08 // 2022

  • Text
  • Wwwbankverlagde
  • Regulierung
  • Lingel
  • Nachhaltigkeit
  • Diskriminierung
  • Digitale
  • Insbesondere
  • Markt
  • Digitalisierung
  • Unternehmen
  • Banken
die bank gehört zu den bedeutendsten Publikationen der gesamten Kreditwirtschaft. Die Autoren sind ausnahmslos Experten von hohem Rang. Das Themenspektrum ist weit gefächert und umfasst fachlich fundierte Informationen. Seit 1961 ist die bank die meinungsbildende Fachzeitschrift für Entscheider in privaten Banken, Sparkassen und kreditgenossenschaftlichen Instituten. Mit Themen aus den Bereichen Bankmanagement, Regulatorik, Risikomanagement, Compliance, Zahlungsverkehr, Bankorganisation & Prozessoptimierung und Digitalisierung & Finanzinnovationen vermittelt die bank ihren Lesern Strategien, Technologien, Trends und Managementideen der gesamten Kreditwirtschaft.

REGULIERUNG In einem

REGULIERUNG In einem Interview antwortete die US- Mathematikerin Cathy O’Neil auf die Frage, ob es einen guten Algorithmus geben kann: „Das kommt auf den jeweiligen Kontext an. Bei Einstellungen bin ich optimistisch, aber wenn wir die interessierenden Ergebnisse […] und – was am wichtigsten ist – den Begriff der Fairness sowie die Schwellenwerte nicht gut definieren, dann könnten wir am Ende wirklich bedeutungslose Regeln haben, die zu sehr problematischen algorithmischen Einstellungssystemen führen.” 7 Eine wirksame Regulierung sollte sich daher auf die Ergebnisse und nicht auf technische Verfahren oder Technologien konzentrieren. Ungeeignete Modelle verwerfen Das schließt nicht aus, dass bereits im Prozess der Modellentwicklung Analysemethoden zum Einsatz kommen sollten, die einer statistischen Diskriminierung entgegenwirken, bevor sie in der Kreditvergabe auftritt. Denkbar sind etwa explizite Korrelationstests zwischen verbotenen und zunächst zulässigen Merkmalen oder die explizite Anforderung, dass ein Modell verworfen wird, wenn es zu Ergebnissen führt, auf die die Kriterien unzulässiger Diskriminierung zutreffen. Eine andere Methode, um Missbrauch und Schwachstellen auszuräumen, sind sogenannte Rote Teams. Hierbei handelt es sich um Fachleute, die ein System aus der Perspektive eines Gegners betrachten, um mögliche Schwachstellen zu identifizieren, die dann entschärft werden können. KI-Red-Teaming kann als eine Erweiterung der Cyber-Sicherheits-Red-Teams angesehen werden, obwohl die datengesteuerte und zunehmend allgemeine Natur von KI-Systemen neue Kompetenzen erfordert. Die KI-Red-Team-Experten tauschen organisations- und unternehmensübergreifend ihre Erfahrungen aus. Bei einem solchen Vorgehen wird anerkannt, dass durch ML hervorgerufene Diskriminierung nicht allein durch technische Ansätze gelöst werden kann. Unfaire oder diskriminierende, unethische oder sozial inakzeptable Ergebnisse sind keine rein technischen, sondern soziotechnischen Probleme. Insgesamt kann man sagen: Künstliche Intelligenz und Maschinelles Lernen haben, wenn sie sorgfältig überwacht und mit repräsentativen Daten eingesetzt werden, das Potenzial, die Genauigkeit und Fairness gegenüber den derzeitigen Modellen zu erhöhen, indem sie Datenbeziehungen erkennen, die die derzeitigen Modelle nicht identifizieren können. Die Nutzung von KI- und ML-Techniken hängt davon ab, wie sie ausgewählt, eingesetzt, gesteuert und reguliert werden. In der Praxis ist es für Kreditinstitute nicht immer einfach, die strenge Einhaltung von Nichtdiskriminierungs- und Datenschutzvorschriften zu gewährleisten und gleichzeitig das gesamte Potenzial von leistungsstarken KI-Werkzeuge zu nutzen. Letztlich ist es möglich, KI-Anwendungen mit leichter Nachvollziehbarkeit einzusetzen. Eine Anwendung fortschrittlicherer und modernerer Techniken ist unter diesen Umständen jedoch kaum ohne weiteres möglich. 50 08 | 2022

REGULIERUNG FAZIT Der Beitrag hat gezeigt, dass der Einsatz von KI zur Vorbeugung vorher schwer feststellbarer Diskriminierungsmuster dienen kann. Wie dargelegt, deuten neue Forschungsergebnisse darauf hin, dass Kreditvergabe durch FinTechs zu weniger Diskriminierung führen kann. Ob dies durch explizite Mechanismen innerhalb der Modelle oder durch Kontrollmechanismen außerhalb der Modelle bedingt ist, wird abzuklären sein. Auch wenn aktuell nicht absehbar ist, dass der Einsatz von KI etwa für die Risikoüberwachung verpflichtend wird, beobachten wir, dass in anderen Bereichen der Bank wie Vertrieb, Datenmanagement (Stichwort: Robotics) etc. solche Ansätze bereits zum Einsatz kommen. Dies kann insbesondere in einer Branche, in der ein starker Trend zur Konsolidierung und zur Digitalisierung der Geschäftsprozesse zu beobachten ist, den entscheidenden Wettbewerbsvorteil bringen. Die Weichen müssen in den Instituten deshalb frühzeitig gestellt werden, um auch in Zukunft auf einem eng umkämpften Markt bestehen zu können. Autoren Dr. Silvio Andrae, Risikomanager, Berlin. Dr. Konstantin Wagner, Capital Markets Consulting, Lucht Probst Associates GmbH. 1 Vgl. O’Neil, C. (2016): Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Crown. 2 Vgl. Veale, M./Borgesius, F.Z. (2021): Demystifying the Draft EU Artificial Intelligence Act, in: Computer Law Review International 4. 3 Vgl. Morse, A. und Karen Pence (2021): Technological Innovation and Discrimination in Household Finance, in: Palgrave Handbook of Technological Finance, Palgrave Macmillan Cham. 4 Schelter, S. (2022): Automatisches Vergessen, Verantwortliches Datenmanagement und Maschinelles Lernen, in: Sustain (1). 5 Klein, A. (2020): Reducing Bias in AI-based Financial Services. Online: https://www.brookings.edu/ research/reducing-bias-in-ai-based-financial-services/. 6 Bartlett, R./Morse, A./Stanton, R./Wallace, N. (2022): Consumer-lending discrimination in the FinTech Era, in: Journal of Financial Economics 143, 1. 7 Vgl. https://www.technologyreview.com/2022/06/29/1053985/society-shame-book-review/. 08 | 2022 51

die bank

© die bank 2014-2020