Aufrufe
vor 8 Monaten

KINOTE 01.2020

Um einen Wandel der Finanzbranche erfolgreich zu meistern, müssen Kreditinstitute sowohl Chancen als auch Herausforderungen der Künstlichen Intelligenz (KI) erkennen. Unter der neuen Marke KINOTE der Bank-Verlag GmbH finden Sie Meldungen, Studien und Fachartikel zum Themenkomplex KI. Wir beantworten Ihre Fragen rund um KI. Wir berichten über Trends, neue Technologien, Forschungsergebnisse und daraus entstehende Möglichkeiten, die KI Ihrem Unternehmen bietet.

22 01 | 2020

22 01 | 2020 Karrierewünschen entsprechende Qualifizierungs- wie auch Stellenangebote unterbreiten. Dabei ist es möglich, die Lerngeschwindigkeit und den Lernerfolg zu monitoren und daraus im weiteren sogar Rückschlüsse auf Potenzial und Eignung zu ziehen. Kramarsch: Die eingesetzten Lösungen sind oft beeindruckend. Aber vielfach wird mehr oder weniger aus Marketing- Gesichtspunkten behauptet, dass hier Künstliche Intelligenz, selbstlernende Algorithmen oder vergleichbare Technologie zum Einsatz kommen. Doch nicht überall, wo Künstliche Intelligenz draufsteht, ist auch solche enthalten. KINOTE: Wo sehen Sie die größte Diskrepanz zu den Versprechen mancher Lösungsanbieter? Kramarsch: Vielfach sind nicht einmal die notwendigen Datenmengen gegeben. Aber neben den genau zu definierenden Parametern ist Big Data erforderlich, um entsprechende Analysen durchzuführen. Sonst sind die Ergebnisse im besten Fall Unsinn und im schlimmsten Fall diskriminierend, weil sie historische Stereotype und Vorurteile zementieren. Auch sind die Daten der Vergangenheit allein kein guter Prüfstein für Entscheidungen in der Zukunft. KINOTE: Werden durch KI Menschen diskriminiert? Wo liegen in Ihren Augen konkrete Gefahren? Knab-Hägele: Da braucht es nicht viel Phantasie: Bewerber könnten ihre Rechte verletzt sehen, wenn sie im Bewerbungsprozess von intransparent urteilenden Algorithmen aussortiert werden. Die bekannten Beispiele Amazon oder Google, bei denen Algorithmen aufgrund von historischen Daten zu verzerrten Ergebnissen geführt haben, sind noch allgegenwärtig. Kramarsch: Wenn Sie beispielsweise eine KI einen neuen Vorstandsvorsitzenden für ein DAX-Unternehmen allein auf Grundlage historischer Daten suchen lassen, dann wird diese selbst-optimierend immer einen Mann im reiferen Alter identifizieren, der für die Stellenbesetzung infrage kommt, und entsprechende Kandidaten vorschlagen. KINOTE: Führt demnach KI zwangsweise zu Diskriminierung? Knab-Hägele: Die Gefahr fehlerhafter Entscheidungen beispielsweise durch mangelnde Datenqualität ist gegeben, ebenso wie die des Missbrauchs bzw. der Verletzung von Persönlichkeitsrechten, ob nun beabsichtigt oder nicht. Es ist also entscheidend, sich zuvor zu überlegen, was das Ziel ist und wie der Weg dahin aussehen kann. Kein Algorithmus kann menschliches Urteilsvermögen einfach ersetzen. Kramarsch: Genau das ist ein wesentlicher Grund, weswegen engagierte Köpfe aus den unterschiedlichsten Bereichen dafür kämpfen, bereits jetzt genauer hinzuschauen und das notwendige Bewusstsein sowie die entsprechenden Rahmenbedingungen zu schaffen. Es gilt zu verhindern, dass einfach losgerannt wird, um dann mit Schrecken zu erkennen, dass weder Richtung noch Ergebnisse stimmen. Es klingt banal. Aber wir sollten schon vor dem Schaden klüger sein. KINOTE: Sie meinen den Ethikbeirat HR-Tech. Welche Ziele hat das Gremium? Kramarsch: Der Ethikbeirat HR-Tech ist eine Initiative in diesem Bemühen um Klarheit und Aufklärung. Es geht um die Schaffung eines technologiefreundlichen, aber zugleich anwendungskritischen Bewusstseins in dieser Frage aufseiten von HR. Hinzu kommt: Jeder Mensch hat grundlegende Rechte, die geschützt werden müssen. Dazu gehören vor allem das Recht auf die Wahrung der individuellen Würde, das Recht, selbstbestimmt zu handeln, und das Recht auf eine geschützte Privatsphäre. Diese Rechte und Werte im Kontext der Anwendung von modernen Technologien einzufordern, ist eine Aufgabe des Ethikbeirats HR-Tech. KINOTE: HR-Manager sollten eigentlich um diese grundlegenden Rechte wissen… Knab-Hägele: Das wird auch gar nicht in Abrede gestellt. Aber wir dürfen uns nicht täuschen. Im Moment wird KI vor allem durch die technologische Brille gesehen und hier vor allem im Spiegel dessen, was möglich ist. In immer kürzeren Abständen werden neue Anwendungen hochgejubelt. Aber nicht alles, was möglich ist, ist auch sinnvoll. HR-Manager sind hier vielfach Getriebene, denen ein Kompass im Dschungel dieser unendlichen Möglichkeiten sehr weiterhelfen kann. KINOTE: Und an dieser Stelle will der Ethikbeirat HR-Tech aufklären? Kramarsch: Uneingeschränkt ja! Mit seinen Richtlinien setzt der Ethikbeirat HR-Tech Standards, an denen sich HR-Manager bei der Frage des Einsatzes von KI-Lösungen oder anderen Technologien orientieren können. Es werden Möglichkeiten und Risiken gezeigt, aber auch rote Linien gezogen. KINOTE: Wo verlaufen solche roten Linien für den KI-Einsatz? Kramarsch: Grenzen werden zum Beispiel überschritten,

01 | 2020 23 wenn Algorithmen oder andere moderne Technologien Daten nutzen, die von den betroffenen Personen nicht willentlich kontrolliert werden können. Am plastischsten verdeutlicht das wohl der Lügendetektor. KINOTE: Lügendetektoren kommen hierzulande aber selten zum Einsatz … Kramarsch: Das Beispiel illustriert, was mit dem Begriff der Subjektqualität gemeint ist: Es dürfen keine Daten erhoben werden, die sich der willentlichen Steuerung der Betroffenen entziehen. Um die Subjektqualität zu achten, ist die Freiwilligkeit der Zustimmung der Betroffenen unerlässlich. Anwendungsbezogen auf das Personalmanagement geht es beispielsweise um die Nutzung von Stimmprofilen für die Beurteilung von Anfälligkeiten für Krankheiten, die Nutzung von Bildern zur Ermittlung sexueller Neigungen etc. Knab-Hägele: HR-Manager sollten sich – auch im eigenen Interesse – dagegen verwehren, solche nicht willentlich kontrollierbaren Anwendungen im Unternehmen einzusetzen. Und sie sollten das auch transparent kommunizieren. Denn gerade Transparenz in Dingen, die man tut oder eben bewusst nicht tut, schafft Vertrauen. Und der Einsatz von KI und moderner Technologie setzt viel Vertrauen voraus. KINOTE: Der Ethikbeirat HR-Tech nimmt auch Anbieter entsprechender Lösungen in die Pflicht. Was ist der Hintergrund dafür? Kramarsch: Die Diskussion ethischer Aspekte beim Einsatz von KI auf die Anwenderseite zu begrenzen, wäre schlicht zu kurz gesprungen. Wir brauchen eine ganzheitliche Sicht. Gerade in neuen Bereichen verspricht das Anbieter-Marketing oft zu viel. Auch werden elementare Fragen wie Haftung und Ver-

die bank

© die bank 2014-2020