Banken und Versicherer wollen Maschinelles Lernen (ML) auch in ihren Risikomodellen einsetzen. Für die BaFin und die Deutsche Bundesbank sind damit grundlegende aufsichtliche und regulatorische Fragen verbunden, über die sie sich mit den Unternehmen und deren Verbänden austauschen wollen. Die beiden Institutionen stellten hierzu eine Reihe von Thesen auf, die sie im Juli 2021 in einem gemeinsamen Konsultationspapier veröffentlicht haben. Der Titel: „Maschinelles Lernen in Risikomodellen – Charakteristika und aufsichtliche Schwerpunkte“ (siehe BaFinJournal Juli 2021). Mittlerweile sind die Rückmeldungen ausgewertet und in einem Ergebnispapier zusammengefasst, das auf der BaFin-Website abrufbar ist.

Konkret ging es bei der Konsultation um interne Modelle, mit denen die regulatorischen Eigenmittelanforderungen in Säule I der Regelwerke für Banken und Versicherer berechnet werden. Aber auch der Einsatz von ML-Methoden im Risikomanagement der Säule II der Regelwerke war Thema. Während Algorithmen an sich keiner Genehmigungspflicht unterliegen, müssen interne Modelle von der Aufsicht freigegeben werden – auch dann, wenn darin Maschinelles Lernen eingesetzt wird.

Maschinelles Lernen im Risikomanagement

Die Konsultation hat ergeben, dass Banken und Versicherer Methoden des Maschinellen Lernens bereits in vielen Bereichen anwenden, etwa bei der Geldwäsche- und Betrugserkennung sowie bei Analysen im Kreditprozess. Auch im Vertrieb und bei der Bepreisung von Produkten nutzen die Unternehmen ML-Methoden.

In internen Risikomodellen der Säule I finden sich ML-Techniken dagegen bisher nur vereinzelt. Zugleich schätzen manche Banken und Versicherer sie als vielversprechend ein. Schon heute werden diese Techniken etwa als Unterstützungs- oder Challengertool für die Validierung interner Modelle verwendet.

Antworten stützen Thesen von BaFin und Bundesbank

BaFin und Bundesbank hatten in ihrem Konsultationspapier vorgeschlagen, auf eine Definition von Maschinellem Lernen zu verzichten. Stattdessen solle die Aufsicht das konkrete interne Modell anhand gewisser Charakteristika untersuchen und daraus die aufsichtlichen Schritte ableiten. Dieses technologieneutrale Vorgehen stieß auf breite Zustimmung. Das folgende Schaubild stellt diese auf Charakteristika basierende Sichtweise exemplarisch dar – und zwar anhand zweier auf internen Ratings basierender Ansätze für das Kreditrisiko von Banken (Internal Ratings Based Approach – IRBA):

Abbildung: Modellaufsicht auf Basis von Charakteristika

Bandbreite von Modellcharakteristiken

(c) BaFin und Deutsche Bundesbank

Ein weiteres Ergebnis der Konsultation: Banken, Versicherer und ihre Verbände halten das bestehende aufsichtliche Regelwerk auch für ML-Verfahren für ausreichend. Ihrer Ansicht nach brauchen die gesetzlichen Vorschriften zumindest nicht grundlegend reformiert zu werden. Richtig fanden die Teilnehmenden auch, dass Regulierung und Aufsicht derzeit den Fokus auf Umfang und Angemessenheit der Datengrundlage sowie die Datenqualität richten, die beim Einsatz von ML-Ansätzen noch bedeutsamer werden.

Methoden des maschinellen Lernens müssen erklärbar sein

Ein zentrales Kriterium für den erfolgreichen Einsatz von Maschinellem Lernen ist für BaFin, Bundesbank und die Konsultationsteilnehmer die Erklärbarkeit der ML-Methoden. Weiteren Diskussionsbedarf sehen beide Seiten bei der Frage, ab wann sich ein Modell durch wiederholtes Maschinelles Lernen so weit ändert, dass es erneut genehmigt werden müsste. Aus aufsichtlicher Perspektive ist es daher von wesentlicher Bedeutung, dass die Entwicklung und die Verwendung der Modelle nachvollziehbar bleiben.

Konkrete aufsichtliche Erwartungen transparent machen

In ihren allgemeinen Prinzipien zum Einsatz von Algorithmen in Entscheidungsprozessen hatte die BaFin im Sommer 2021 formuliert, wie sie sich einen verantwortungsvollen Umgang mit künstlicher Intelligenz vorstellt. Was sie darüber hinaus konkret von den Unternehmen erwartet, will sie im weiteren Austausch mit der Finanzindustrie transparent machen.

Dabei sind der BaFin und der Bundesbank zwei Dinge wichtig:

1. Die Aufsicht agiert weiterhin technologieneutral und im Rahmen der bestehenden Regelwerke.
2. Unternehmen erhalten damit Planungssicherheit für Investitionen in ML-Methoden und werden in die Lage versetzt, die Risiken solcher Methoden früh zu erkennen.

Aus Sicht der BaFin und der Bundesbank ist es sehr wichtig, europaweit harmonisierte und sektorübergreifend gleichlautende Anforderungen an den Einsatz von ML-Methoden zu stellen. Sie bringen daher die Ergebnisse ihrer Konsultation auch in die Diskussionen über die Digital Finance Strategy der Europäischen Kommission ein und erörtern sie mit anderen europäischen Aufsichtsbehörden.