Die deutsche Finanzaufsicht Bafin befasst sich verstärkt mit künstlicher Intelligenz (KI) in der Versicherungsbranche. Das stellte die Chefin der Versicherungsaufsicht, Julia Wiens, in einer Rede am Institut für Versicherungsrecht der Heinrich-Heine-Universität Düsseldorf klar.
Wie es sich für eine Aufsichtsbehörde gehört, betrachtet die Bafin vor allem die Risiken, die KI mit sich bringt. So merkte Wiens etwa an, dass KI Diskriminierungsrisiken verstärken kann. „Dazu kann es kommen, wenn die Trainingsdaten der Systeme bestimmte Kundengruppen nicht sachgerecht abbilden. Mögliche Folge: Bestimmte Kundinnen und Kunden könnten nur erschwert oder gar keinen Zugang zu bestimmten Produkten oder Dienstleistungen bekommen“, erklärte die Bafin-Frau.
Generative KI – also jene Systeme, die neue Inhalte erschaffen – könnte falsche Informationen herausgeben. KI-Halluzination heißt das im Fachjargon. Fachfremde Nutzer können aber solche Falschinformationen nur schwer bis gar nicht erkennen – und arglos weiterverwenden. Wiens deutlich: „Sie als Juristinnen und Juristen wissen, was Diskriminierung und auch Falschinformationen für Kundinnen und Kunden im schlimmsten Fall bedeuten können.“
Und dann schlägt Wiens den Bogen zur Aufsicht. Als zusätzlicher Aspekt komme bei KI die europäische KI-Verordnung hinzu, der AI Act. Sie greife spätestens zum August 2026 vollständig und teile KI nach deren Risiken ein.
Ganz unten in diesem Spektrum stehen KI-Systeme mit geringem Risiko. Am anderen Ende finden sich Systeme, die Grundrechte bedrohen können, zeigt sich Julia Wiens gewiss: „Denken Sie zum Beispiel an ein Social-Scoring-System, das das Verhalten von Menschen bewertet. Solche Praktiken sind verboten.“
Und dann wäre da noch die Hochrisiko-KI, und die will die Bafin bei Banken und Versicherungen überwachen. Zumindest wenn sie mit Bafin-erlaubnispflichtigen Dienstleistungen zusammenhängt.
Und was ist überhaupt so eine Hochrisiko-KI? Wiens erklärt das so: „Hochrisiko-KI bedeutet, dass diese Systeme mit klaren Risiken für die Gesundheit, die Sicherheit oder die Grundrechte der Europäerinnen und Europäer einhergehen. Ihr Nutzen überwiegt aber diese Risiken.“
Direkt auf die Versicherungsbranche bezogen, heißt das: Manche Hochrisiko-KI soll bei Lebens- und Krankenversicherungen Risiken bewerten und Preise ermitteln. Und solche Systeme müssen umfangreiche Regeln einhalten – in Hinblick auf Transparenz, Datenqualität, menschliche Aufsicht und Risikomanagement.
Entsprechend müssen sich Unternehmen aufstellen, die KI nutzen. Sie müssen einen generellen Überblick über die Modelle haben, die sie nutzen. Und sie müssen die Risiken aus dem Einsatz dieser Modelle einschätzen können. „Die Verantwortung für den fairen und angemessenen Einsatz von Künstlicher Intelligenz liegt bei den Unternehmen“, sagt Wiens.
Und wer das jetzt alles ein Stück zu negativ empfindet, dem gibt die Aufseherin etwas Grundsätzliches mit: „Als Aufsicht sehen wir den technologischen Wandel und die Digitalisierung per se als etwas sehr Positives. Die beaufsichtigen Unternehmen müssen die damit verbundenen Risiken jedoch angemessen managen und sich bereits heute für die potenziellen Risiken von morgen aufstellen.“
