Herr Staatssekretär, die Bundesregierung hat in der Sitzung des Digitalkabinetts am 15. November 2018 die nationale KI-Strategie beschlossen. Worum geht es da?

Mit der Strategie setzt die Bundesregierung erstmalig einen Rahmen für eine ganzheitliche politische Gestaltung der weiteren Entwicklung und Anwendung künstlicher Intelligenz (KI) in Deutschland. Mit ihr sollen drei wesentliche Ziele verfolgt werden. Erstens: Deutschland und Europa sollen zu einem führenden Standort für die Entwicklung und Anwendung von KI-Technologien gemacht werden – auch um die künftige Wettbewerbsfähigkeit Deutschlands abzusichern. Zweitens: Es soll eine verantwortungsvolle und gemeinwohlorientierte Entwicklung und Nutzung von KI sichergestellt werden, und, drittens: KI soll im Rahmen eines breiten gesellschaftlichen Dialogs und einer aktiven politischen Gestaltung ethisch, rechtlich, kulturell und institutionell in die Gesellschaft eingebettet werden. Der Staat nimmt zur Erreichung dieser Ziele viel Geld in die Hand. Investitionen in Höhe von insgesamt drei Milliarden Euro sind vorgesehen.

Die Strategie beinhaltet auch wesentliche Aspekte für die Finanzindustrie und berücksichtigt damit Empfehlungen des FinTechRats beim BMF¹. KI und Big Data ermöglichen Innovationen, die den Finanzmarkt stark verändern. Das alles erfordert technische und fachliche Kompetenzen. Darauf muss auch die Aufsicht entsprechend reagieren. Da ist die BaFin-Studie zu Big Data und künstlicher Intelligenz² ein wichtiger erster Schritt.

Wo sehen Sie die größten Chancen und mögliche Risiken beim Einsatz von Big Data und künstlicher Intelligenz auf dem Finanzmarkt?

Staat, Gesellschaft, Wirtschaft, Verwaltung und Wissenschaft sind aufgefordert, sich den Chancen, aber auch den Risiken der KI zu stellen. Die Bundesregierung hat mit der KI-Strategie eine Grundlage etabliert , um die Voraussetzungen zur Nutzung des Potenzials von KI zu schaffen. Die Entwicklung und der Einsatz von BDAI müssen dabei im Sinne einer menschenzentrierten, gemeinwohlorientierten Nutzung für Wirtschaft und Gesellschaft auf Basis der demokratischen Grundordnung erfolgen.

Das Zusammenspiel von künstlicher Intelligenz und Big Data führt zu autonomen Systemen, die die Digitalisierung derzeit in allen Wirtschaftszweigen rasch voranschreiten lassen. In der nächsten Zeit können diese Entwicklungen auch zu Veränderungen unseres Finanzsystems führen. Auf dem Kapitalmarkt kann man den Einsatz von BDAI bereits beobachten. Aber auch bei Banken und Versicherungen wird BDAI zunehmend als Chance erkannt.

BDAI-Anwendungen könnten auch bei Risikobewertungsmodellen von Instituten zum Einsatz kommen. Auch Versicherungen könnten BDAI zur Unterstützung des Schadensmanagements einsetzen.
Bei dem Einsatz von BDAI-Technologien ist es wichtig, dass die Finanzstabilität und -Integrität nicht verletzt werden. Hinzu kommt, dass der Verbraucher mitgenommen werden muss. Das bedeutet, dass Verbraucher die Hoheit über ihre personenbezogenen Daten auch in einer BDAI-Welt nicht verlieren dürfen.

Halten Sie es für möglich, dass der vermehrte Einsatz von Big Data und künstlicher Intelligenz neuartige systemische Risiken hervorbringt?

Zum jetzigen Zeitpunkt lassen sich noch keine systemischen Risiken erkennen. Dafür ist der Einsatz von Big Data und künstlicher Intelligenz in der Finanzindustrie noch zu gering. Dies kann sich allerdings schnell ändern. Daher ist es wichtig, dass Aufseher mögliche Risiken für die Stabilität des Finanzsystems im Auge behalten, um diese gegebenenfalls schnell zu adressieren.

Die Anwendung von Big Data und künstlicher Intelligenz löst regelmäßig auch datenschutzrechtliche Fragen aus. Wie sollte aus Ihrer Sicht finanzaufsichtlich damit umgegangen werden?

Bei einer massenhaften und selbstlernenden Auswertung von Daten durch Unternehmen muss gewährleistet sein, dass Kunden noch Herr ihrer Daten bleiben. Mit der im letzten Jahr in Kraft getretenen DSGVO³ sind dafür europaweit wichtige Standards gesetzt worden, d. h. der Kunde muss einwilligen, dass seine Daten zu Preisfindungszwecken verarbeitet werden. Gleichwohl müssen Kunden noch mehr dafür sensibilisiert werden, dass sie für schnelleren und besseren Service in aller Regel mit ihren Daten bezahlen. Aber auch auf Unternehmensseite muss ein verantwortungsvoller Umgang mit den Kundendaten sichergestellt sein.

Die Bundesregierung hat sich deswegen in ihrer KI-Strategie das Ziel gesetzt, einen Runden Tisch mit Datenschutzaufsichtsbehörden und Wirtschaftsverbänden einzuberufen, um gemeinsam Leitlinien für eine datenschutzkonforme Entwicklung und Anwendung von KI-Systemen zu erarbeiten und Best-Practice-Anwendungsbeispiele aufzubereiten.

Die Einhaltung von Datenschutzbestimmungen obliegt den zuständigen Länderbehörden und dem Bundesbeauftragten für den Datenschutz. Auch kommt bei Vorliegen der entsprechenden Voraussetzungen ein Einschreiten der BaFin im Rahmen der Missstandsaufsicht in Betracht. In besonders extremen Fällen müsste dann wohl auch die Eignung der Geschäftsleitung in Frage gestellt werden.

In der ersten Ausgabe der BaFinPerspektiven hat BaFin-Präsident Felix Hufeld das Problem der ungewollten Diskriminierung durch Big Data und künstliche Intelligenz beschrieben. Wie lässt sich dieses Problem lösen?

Algorithmen liegt erst einmal kein Weltbild zugrunde, sie ziehen ihre Schlüsse aus den Datensätzen. Je nachdem, wie diese Datensätze ausgewählt werden oder wofür die Auswertung genutzt werden soll, kann daraus allerdings eine Diskriminierung folgen. Der FinTechRat hat in seinen Handlungsempfehlungen schon Ende 2017 auf diese Problematik hingewiesen. Zu einem verantwortungsvollen und gemeinwohlorientierten Umgang mit KI gehört auch, dass Unternehmen, die KI einsetzen, dafür sorgen müssen, dass Diskriminierung verhindert wird – notfalls durch menschliche Kontrollmechanismen. Für die Finanzindustrie heißt dies, dass der Einsatz von KI-Technologie die Geschäftsleitung nicht von ihrer Gesamtverantwortung für die ordnungsgemäße Geschäftsorganisation entbindet.

Big Data und künstliche Intelligenz machen es möglich, unterschiedliche Daten zu verknüpfen. Damit lässt sich möglicherweise auch die maximale Zahlungsbereitschaft von Kunden ausloten – und, bei entsprechender Marktmacht, ausnutzen. Wie stehen Sie dazu?

An das sogenannte Pricing knüpfen sich zahlreiche Fragen, die weit über das Aufsichtsrecht hinausgehen. Wie auch in anderen Bereichen ist die Grenze des Hinnehmbaren dann erreicht, wenn das Unternehmen seine Marktmacht zu Lasten des Verbrauchers ausnutzt. Soweit Pricing auf personenbezogenen Daten aufsetzt, greift auch hier der Schutz der DSGVO.

Mit der KI-Strategie setzt die Bundesregierung sich ambitionierte Ziele. Was erwarten Sie von der BaFin?

Die Bundesregierung will beim weiteren Einsatz von KI in der Verwaltung eine Vorreiterrolle einnehmen und damit zur Verbesserung von Effizienz, Qualität und Sicherheit von Verwaltungsdienstleistungen beitragen. Dazu kann auch die BaFin einen wichtigen Beitrag leisten. Mit ihrer BDAI-Studie hat sie den Grundstein dafür gelegt. Darauf gilt es jetzt aufzubauen. BDAI-Anwendungen können vor allem in den Aufsichtsbereichen einen Mehrwert darstellen, in denen die BaFin über ausreichende strukturierte Daten in ausreichender Qualität verfügt. Da fällt mir etwa das Meldewesen in der Wertpapieraufsicht ein. Die BaFin sollte ambitioniert prüfen, ob die Auswertung großer strukturierter Datenmengen in Zukunft nicht häufiger KI-gesteuert werden kann. Hier wäre dann auch eine Weiterentwicklung der Digitalisierungsstrategie der BaFin anzustreben, um langfristig die Finanzaufsicht weiter zu stärken.

Herr Staatssekretär, wir danken Ihnen für das Interview.

Fußnoten: