Aufrufe
vor 4 Monaten

die bank 08 // 2022

  • Text
  • Wwwbankverlagde
  • Regulierung
  • Lingel
  • Nachhaltigkeit
  • Diskriminierung
  • Digitale
  • Insbesondere
  • Markt
  • Digitalisierung
  • Unternehmen
  • Banken
die bank gehört zu den bedeutendsten Publikationen der gesamten Kreditwirtschaft. Die Autoren sind ausnahmslos Experten von hohem Rang. Das Themenspektrum ist weit gefächert und umfasst fachlich fundierte Informationen. Seit 1961 ist die bank die meinungsbildende Fachzeitschrift für Entscheider in privaten Banken, Sparkassen und kreditgenossenschaftlichen Instituten. Mit Themen aus den Bereichen Bankmanagement, Regulatorik, Risikomanagement, Compliance, Zahlungsverkehr, Bankorganisation & Prozessoptimierung und Digitalisierung & Finanzinnovationen vermittelt die bank ihren Lesern Strategien, Technologien, Trends und Managementideen der gesamten Kreditwirtschaft.

REGULIERUNG Big Data

REGULIERUNG Big Data fördert die Einbeziehung neuer und umfangreicher Informationen, die in bestehenden Finanzmodellen in der Regel nicht vorhanden sind. Maschinelles Lernen liegt vor, wenn Computer Daten (Standard- und/oder große Daten) auf der Grundlage von Beziehungen optimieren, die sie ohne traditionelle, eher präskriptive Algorithmen finden. ML kann neue Beziehungen identifizieren, bei denen ein Mensch nie auf die Idee käme, sie zu testen. Der Einsatz von ML zur Entscheidungsfindung ist auf dem Vormarsch, da damit verborgene Muster in großen Datenmengen aufgedeckt und die Vorhersagegenauigkeit verbessert werden können. Eine Sorge besteht jedoch darin, dass durch Analysen bestehender Daten menschliche Verzerrungen aus der Vergangenheit repliziert, verewigt oder sogar verstärkt werden könnten. Der Artikel zeigt auf, was Banken tun können, um Diskriminierung und Voreingenommenheit zu vermeiden. Dabei gilt es stets, den Zielkonflikt zwischen der Vorhersehbarkeit und der Einseitigkeit der Ergebnisse im Blick zu behalten. Ein vorgeschlagener Rahmen dient der Einordnung. Verbraucherschutz, Diskriminierung und Kreditvergabe Das Geschäftsmodell von Finanzintermediären beruht einerseits auf einem guten Verständnis der Bedürfnisse der Kunden. Um andererseits den Preis von Finanzprodukten aus Risikosicht korrekt bewerten zu können, ist zudem eine Einschätzung der Bonität der Kunden nötig. Beides – sowohl die Vertriebsunterstützung als auch die Risikobewertung – wird heutzutage in der Regel auf Basis entsprechender Informationen ausgewertet, die in Datenbanksystemen der Bank zu finden sind. Die Analyse erfolgt mithilfe statistischer Verfahren. Der Einsatz von KI – meist sind es ML-Verfahren – zur effizienten Auswertung bietet sich somit an und stellt den nächsten logischen Schritt in der Entwicklung des Geschäftsmodells von Banken dar. Wir beobachten erste Einsätze von KI deshalb insbesondere dort, wo große Datenmengen automatisiert ausgewertet werden müssen und wo bereits in der Vergangenheit statistische Methoden Anwendung fanden. Das hat einerseits damit zu tun, dass hier Aufseher eher damit einverstanden sind, KI einzusetzen. Beispiele hierfür sind die Bekämpfung von Geldwäsche oder die Umsetzung der regulatorischen Vorgaben zur Handelsüberwachung. Andererseits ist in Bereichen der Bank, die traditionell mit Daten hantieren (etwa im analytischen Vertrieb) bereits Knowhow vorhanden. Insbesondere hier müssen Banken, die auch mittel- bis langfristig in anderen Bereichen KI einsetzen wollen, zeitnah aufschließen, um in Zukunft methodisch vorne dabei sein zu können. Kritiker der Anwendung von KI-Methoden führen neben der größeren Komplexität der Modelle sowie dem damit einhergehenden Modellrisiko oft das Argument ins Feld, dass KI aus Sicht des Verbraucherschutzes problematisch sei. Diesem Geist entspricht auch die KI-Verordnung der EU, die sich ihrem Wesen nach stark an EU-Gesetzen zur Produktsicherheit orientiert. 2 Zentral in der KI-Verordnung ist die Klassifikation von KI- Systemen nach ihrem Risiko, wobei KI-Systeme zur Kreditwürdigkeitsprüfung zu den Hochrisikosystemen gezählt werden. Im Hinblick auf Antidiskriminierung versteht sich die KI-Verordnung als eine stärkende Maßnahme in Bezug auf den Nichtdiskriminierungsgrundsatz gemäß der Charta der Grundrechte der Europäischen Union (EU). 46 08 | 2022

REGULIERUNG 1 | Rahmenwerk Größere Vorhersagekraft IV. Trade-off: risikobasierte Bepreisung I. Win-Win? Größere Einseitigkeit Status quo Geringere Einseitigkeit III. Lose-Lose II. Trade-off: faires System Weniger Vorhersagekraft Quelle: In Anlehnung an Klein (2020). Kunden erhalten unterschiedliche Produktvorschläge In KI-Systemen geht es regelmäßig um die Erstellung einer kundenzentrierten Einordnung auf Basis von Daten. Kunden mit unterschiedlichen Datenpunkten können dann z. B. beim Online Shopping unterschiedliche Produktvorschläge erhalten. Von (unzulässiger) Diskriminierung ist jedoch erst dann die Rede, wenn diese Einteilung auf Basis unzulässiger Merkmale erfolgt oder stark mit diesen korreliert. So ist in den Vereinigten Staaten beispielsweise die Diskriminierung aufgrund verschiedener Kategorien – darunter etwa Rasse, Geschlecht und Familienstand – verboten. Die EU-Grundrechts-Charta definiert als unzulässige Merkmale zum Beispiel Geschlecht, Rasse, Hautfarbe, ethnische oder soziale Herkunft, genetische Merkmale, Sprache, Religion oder Weltanschauung etc. (Charta der Grundrechte der Europäischen Union, Art. 21). Die Europäische Datenschutzrichtlinie (DS-GVO) von 2016 räumt den Bürgerinnen und Bürgern das Recht ein, Erklärungen für Entscheidungen zu erhalten, die ausschließlich auf automatisierter Verarbeitung beruhen. Diskriminierung lässt sich allgemein in zwei Kategorien einteilen: Z Von direkter Diskriminierung spricht man, wenn Mitglieder einer Gruppe eine diskriminierende Behandlung erfahren, die direkt auf die Präferenzen eines Entscheiders zurückzuführen ist. Aufgrund der Rückführung auf den Entscheider wird sie auch häufig als taste-based (geschmacksbedingte Diskriminierung) bezeichnet. Z Die zweite Art von Diskriminierung ist die indirekte Diskriminierung, die auch als statistische Diskriminierung bezeichnet wird. Im Hinblick auf die Kreditvergabe bedeutet statistische Diskriminierung etwa, dass ein Kreditnehmer aufgrund der Verwendung eines unzulässigen Merkmals in der Bewertung der Kreditwürdigkeitsprüfung schlechtere Konditionen erhält. Ebenfalls verboten ist der Einsatz von solchen Datenpunkten, die stark mit den genannten Merkmalen korrelieren, wie etwa die Haarfarbe (silberne Haare werden stark mit dem Alter assoziiert) oder das Wohnviertel, welches in den USA häufig Rückschlüsse auf die Ethnie zulässt. 3 Für Finanzinstitute ist es nicht immer trivial, die strenge Einhaltung von Nichtdiskriminierungs- und Datenschutzvorschriften zu gewährleisten und gleichzeitig das gesamte Potenzial dieser leistungsstarken neuen Werkzeuge zu nutzen. Diese Tatsache schränkt KI-Anwendungen auf einfache und leicht nachvollziehbare Algorithmen ein und verhindert die Anwendung komplexerer Techniken. Ebenfalls zu beachten ist das Recht auf Vergessen, das Eingang in die Gesetzgebung zum Datenschutz fand (Art. 17 DS-GVO). Während der einfache Löschvorgang von Nutzerdaten aus der Laienperspektive keine Probleme verursachen sollte, gestaltet sich dies in der Praxis häufig als aufwendig und mitunter langwierig. Dies liegt vor allem darin begründet, dass die zu löschenden Kundendaten Eingang in Modelle finden, die erst nach einem Re-Training die aus den Daten gewonnen Erkenntnisse vergessen können. Die Löschanforderung stellt für die praktische Anwendung zwar eine lösbare Herausforderung dar. Letztlich muss sie aber im Design des KI-Systems früh bedacht und in der Implementierung berücksichtigt werden. Nicht optimal implementiert, kann der 08 | 2022 47

die bank

© die bank 2014-2020