Aufsichtsrechtliche Erwägungen zur Nutzung von Künstlicher Intelligenz in der Finanzbranche

Banken, Versicherungen und andere Finanzinstitute setzen vermehrt auf KI-Technologien, um Prozesse zu automatisieren, Effizienz zu steigern und innovative Produkte und Dienstleistungen zu entwickeln. Doch diese Entwicklung geht einher mit neuen Herausforderungen, insbesondere im Hinblick auf die Einhaltung aufsichtsrechtlicher Vorgaben und die Sicherheit des Finanzsystems.

Mit dem nun im Februar 2024 erlassenen Europäischen AI Act werden die bisherigen Vorgaben im Prinzipienpapier der BaFin weiter konkretisiert.  

Kontext und Bedeutung von KI in der Finanzbranche

KI umfasst Technologien wie maschinelles Lernen, neuronale Netze und natürliche Sprachverarbeitung, die es Computern ermöglichen, menschenähnliche Fähigkeiten wie Wahrnehmung, Sprache und Entscheidungsfindung zu entwickeln. In der Finanzbranche wird KI für eine Vielzahl von Anwendungen eingesetzt, darunter Kreditrisikobewertung, automatische Handelsstrategien, Betrugserkennung und Kundeninteraktion.

Die Vorteile von KI in der Finanzbranche sind vielfältig. Sie ermöglicht eine schnellere und genauere Analyse großer Datenmengen, verbessert die Personalisierung von Angeboten und Dienstleistungen und kann dazu beitragen, Risiken besser zu bewerten. Dennoch gibt es auch Risiken und Herausforderungen im Zusammenhang mit der Nutzung von KI, insbesondere im Hinblick auf Datenschutz, Ethik und Transparenz.

Aufsichtsrechtliche Vorgaben der BaFin

Die BaFin hat erkannt, dass die Verwendung von KI in der Finanzbranche sowohl Chancen als auch Risiken birgt und hat daher Richtlinien erlassen, um die Nutzung von KI zu regulieren und zu überwachen. Diese aufsichtsrechtlichen Vorgaben lassen sich in mehrere Schlüsselbereiche unterteilen:

Risikomanagement und Governance

Ein zentraler Aspekt der aufsichtsrechtlichen Vorgaben der BaFin betrifft das Risikomanagement und die Governance von KI-Anwendungen. Finanzinstitute, die KI einsetzen, müssen angemessene Mechanismen etablieren, um Risiken zu identifizieren, zu bewerten und zu steuern. Dazu gehören klare Verantwortlichkeiten, eine regelmäßige Überwachung der KI-Systeme und die Durchführung von Risikoanalysen. Zudem müssen sie sicherstellen, dass KI-Systeme mit den internen Richtlinien und den aufsichtsrechtlichen Anforderungen und gesetzlichen Vorgaben im Einklang stehen. Hierzu ist auch im Hinblick auf die Vorgaben des AI Act auch die Erweiterung des Modell-Risikomanagements unerlässlich.  

Transparenz und Erklärbarkeit

Ein weiterer wichtiger Bereich betrifft die Transparenz und Erklärbarkeit von KI-Systemen. Finanzinstitute müssen in der Lage sein, die Funktionsweise ihrer KI-Anwendungen nachvollziehbar zu machen und potenzielle Kunden sowie Aufsichtsbehörden über die Risiken und Auswirkungen zu informieren. Dies ist besonders wichtig, da viele KI-Algorithmen als "Black Box" betrachtet werden, was bedeutet, dass ihre Entscheidungsfindung für Menschen schwer nachvollziehbar ist.

Datenschutz und Datenschutz

Finanzinstitute müssen sicherstellen, dass sie die geltenden Datenschutzbestimmungen einhalten und die Sicherheit und Vertraulichkeit der Daten gewährleisten. Dazu gehören Maßnahmen wie die anonyme Verarbeitung sensibler Daten, die Einholung von Einwilligungen und die Implementierung von Sicherheitsmaßnahmen zum Schutz vor Datenlecks und unbefugtem Zugriff. Dies ist insbesondere aufgrund des aktuellen Scoring Urteils des EuGH von besonderer Bedeutung.  

Compliance und Vermeidung von BIAS

Finanzinstitute sind  verpflichtet, sicherzustellen, dass ihre KI-Anwendungen keine diskriminierenden, unethischen oder rechtswidrigen Entscheidungen treffen. Dies erfordert eine sorgfältige Überwachung und Bewertung der KI-Systeme sowie die Implementierung von Mechanismen zur Einhaltung von Compliance-Vorschriften.

Überwachung und Anpassung

KI-Systeme müssen zudem kontinuierlich überwacht werden und bei Bedarf angepasst, um sicherzustellen, dass sie den aufsichtsrechtlichen Anforderungen entsprechen und keine unerwünschten Auswirkungen auf den Finanzmarkt haben. Dies erfordert eine enge Zusammenarbeit zwischen den Finanzinstituten und der BaFin sowie eine regelmäßige Aktualisierung und Schulung der Mitarbeiter.