die bank 10 // 2023

DIGITALISIERUNG 4 |

DIGITALISIERUNG 4 | Überblick über aktuelle Initiativen und Veröffentlichungen OEDC AI Principles (2019) G20 AI Principles (2019) FSB Report on AI and ML in Financial Services (2017) BIS, IFC Bulletin No 57, Machine learning in central banking, „Machine learning applications in central banking” (2021) BIS Working Paper - Big Data and machine learning in central banking (2021) BIS, IFC Bulletin No 57, Machine learning in central banking, „Machine learning applications in central banking” (2022) FSI insights 35 0 Humans keeping AI in check – emerging regulatory expectations in the financial sector (2021) EU KI-Strategie / Koordinierter Plan für KI (2018/2021) HLEG on AI (EU-COM) Ethics GL for trustworthy AI (2019) EU-Gesetzentwurf für vertrauenswürdige KI (2021) EU Digital Finance Strategy / Digital Finance Package (2020) EBA-Task Force on IT, EIOPA InsurTech Task Force, ESMA Financial Innovation Standing Committee: Joint Committee Final Report on Big Data (2018) EBA Report on Big Data and Advanced Analytics (2020) EBA Machine Learning for IRB Models – Follow-Up Report from the Consultation (2023) EIOPA, „EIOPA letter to co-legislators on the Artificial Intelligence Act” (2022) EZB, „OPINION OF THE EUROPEAN CENTRAL BANK of 29 December 2021 on a proposal for a regulation laying down harmonized rules on artificial intelligence (2021) Bundesregierung KI-Strategie (2018/2020) BaFin Studie zu Big Data und KI (2018) BaFin Perspektiven zu Big Data und KI – Konsultationsergebnisse (2019) BaFin Prinzipienpapier „Big Data und künstliche Intelligenz: Prinzipien für den Einsatz von Algorithmen in Entscheidungsprozessen“, (2021) BaFin Konsultations- und Ergebnispapier zu Machine Learning in Risikomodellen (2021/2022) Bundesbank: Policy Discussion Paper: The Use of Artificial Intelligence and Machine Learning in the Financial Sector (2020) Quelle: Eigene Darstellung. 78 10 | 2023

DIGITALISIERUNG zung. Vielmehr deutet die Streichung der Ausnahme für Kleinanbieter auf ein rein nach Anwendungsgebiet ausgehendes, regulatorisches Prinzip hin. Im aktuellen Entwurf existieren noch Ausnahmeregelungen, wie bspw. Art. 2, Abs. 5d, wonach KI-Systeme im Rahmen von Forschungs-, Test- und Entwicklungszwecken nicht von der Verordnung betroffen sind, solange diese (A) noch nicht an Dritte (zur erstmaligen Nutzung) übergeben wurden oder (B) noch nicht gemäß ihrer Zweckbestimmung eigengebräuchlich genutzt werden. Wie auch im Bericht der EBA zur Konsultation zum Diskussionspapier zum Einsatz von Machine Learning für IRB-Modelle (EBA/ REP/2023/28), fortan EBA-Bericht, erwähnt, sieht Art. 83 (2) eine Ausnahmeregelung für bereits in Verkehr gebrachte oder in Betrieb genommene KI-Systeme vor. Diese wurde jedoch im aktuellen Entwurf auf zwei Jahre befristet. Der EBA-Bericht argumentiert zudem in Tz. 48, dass IRBA-Modelle (Verfahren zur Ermittlung von Mindestkapitalanforderungen) durch den AI-Act nur indirekt betroffen wären. Diese Argumentation erscheint nicht schlüssig, da z. B. die durch interne Modelle geschätzten Ausfallwahrscheinlichkeiten maßgeblichen Einfluss auf die Kreditkonditionen und die Kreditentscheidung haben und somit eher von einer direkten als einer indirekten Betroffenheit auszugehen ist. Es bleibt zu beobachten, inwieweit die finale Fassung des AI-Act die Position der EBA berücksichtigen wird. Welche Prozesse sind aus fachlicher Sicht effektiv betroffen? Um mögliche direkte Auswirkungen des AI- Acts auf das eigene Unternehmen abschätzen zu können, sollte eruiert werden, welche vom AI-Act betroffenen Prozesse innerhalb der eigenen Wertschöpfungskette Potenzial für den Einsatz eines KI-Systems nach dem aktuellen Stand der Technik aufweisen. Als zweite Analysedimension wird die Betroffenheit des jeweiligen Prozesses durch den AI-Act visualisiert. Abb. ÿ 3 zeigt in vereinfachter Form, wie eine solche Übersicht aussehen könnte. Hauptprozesse, die betroffen sind, sollten in Teilprozesse untergliedert werden, wie am Beispiel des Risikomanagements dargestellt. Wird die Matrix wie oben beschrieben auf die eigene detaillierte Prozesslandkarte angewendet, können strategische Implikationen abgeleitet werden. Je nach Haus ergeben sich unterschiedliche Rückschlüsse für die Betroffenheit und die Potenziale. Diese hängen maßgeblich von der individuellen Prozessgestaltung und -reife sowie dem Portfolio ab. Aus dem oben skizzierten Beispiel geht hervor, dass Front-, Middle- und Backoffice betroffen sind, allerdings überwiegend punktuell. Zu einer analogen Einschätzung kommt der EBA-Bericht in einem deutlich enger gefassten Anwendungsfall für die IRBA-Modellierung. In Kapitel 3 werden mögliche Anwendungsfälle für maschinelles Lernen der rückmeldenden Institute dargestellt. Die folgenden Punkte sind Auszüge daraus: Z Primär für die Entwicklung von PD-Modellen (im Vergleich zu LGD, EAD, CCF). Z Überwiegend im Bereich der Risiko-Differenzierung, bspw. Risikofaktor-Identifizierung, im Vergleich zur Risiko-Quantifizierung. Z Im Bereich der Modellvalidierung, bspw. in Form eines Benchmarkings. Das Personalwesen (HR) ist durch Abs. 4 analog zu Abs. 5b (Anhang III) ebenfalls als Hochrisikosystem klassifiziert und wird daher als betroffen markiert, ist jedoch fachlich nicht im Fokus dieses Artikels. Komplementär zu einer Potenzialanalyse – d. h. bspw., wie viel Kosten ließen sich einsparen, Prozesse beschleunigen, Modelle verbessern usw. – können die jeweiligen Herausforderungen einer AI-Implementierung gegenübergestellt werden. Es empfiehlt sich hierbei, zunächst prinzipienbasiert Herausforderungen nach Themengebieten zu untergliedern. Beispiele hierfür wären: Z strategisch: Wie reagieren Markt und Mitarbeiter? Z menschlich: Werden AI-Spezialisten für Entwicklung und Betrieb benötigt? Z fachlich: Wie wird bspw. mit Erklärbarkeit und „Overfitting“ umgegangen? Z ökonomisch: Investitionen in Hardware, Lizenzen, Personal. Z sonstige Regulatorik: Anforderungen an Erklärbarkeit, Nachvollziehbarkeit. 10 | 2023 79