Künstliche Intelligenz (KI) hält nun anscheinend auch Einzug in die persönliche Finanzplanung. Allerdings sind die Meinungen dazu gespalten. Während mehr als jeder Vierte (27 Prozent) sich vorstellen kann, einer KI künftig den Großteil der eigenen Finanzentscheidungen zu überlassen, lehnt rund die Hälfte (49 Prozent) den KI-Einsatz bei Finanzthemen grundsätzlich ab. Das geht aus einer Bitkom-Umfrage unter 1.004 Personen hervor.
Bereits ein Viertel der Befragten hat eine KI-Anwendung wie ChatGPT nach eigenen Angaben in finanziellen Angelegenheiten um Rat gefragt. Drei von zehn Deutschen sind überzeugt, KI könne ihnen Finanzen besser erklären als ein Mensch – und jeder Vierte vertraut KI sogar mehr als menschlicher Finanzberatung.
„KI unterstützt bei der klassischen Finanzberatung nicht nur, sie tritt zunehmend in Konkurrenz zu ihr“, so Bitkom-Präsident Ralf Wintergerst. Gleichzeitig machen sich 62 Prozent der Deutschen wegen KI größere Sorgen vor Betrug.
Eine Entwicklung, die anscheinend auf der Vermittlerverband Votum beobachtet – und zwar mit keinem guten Gefühl. So wandte sich der Verband jetzt mit einer Anfrage an die Aufsicht Bafin und an die Deutsche Industrie- und Handelskammer (DIHK). Er legte dabei konkrete Fälle vor, in denen KI-Chatbots wie ChatGPT und Claude in Dialogen Versicherungsprodukte empfohlen hatten – inklusive Tarifbezeichnung und Begründung auf Basis einer vermeintlichen Bedarfsanalyse.
Das Problem: Für solche individuellen Produktempfehlungen wäre eigentlich eine Erlaubnis nach Paragraf 34d Gewerbeordnung erforderlich. Über die die KI-Anbieter aber nicht verfügen. Während zugelassene Versicherungsvermittler einer gesetzlich geregelten Beratungs- und Dokumentationspflicht unterliegen und für Beratungsfehler haften, existiert bei KI-Anbietern weder eine berufsrechtliche Zulassung noch eine entsprechende Haftungsabsicherung.
„Die entscheidende Frage lautet: Wer haftet, wenn der Verbraucher auf Basis einer fehlerhaften KI-Empfehlung eine ungeeignete Versicherung abschließt?“, so Votum-Geschäftsführer Martin Klein. Die Empfehlungen der KI-Systeme basieren weder auf einer qualifizierten Risikoanalyse, noch enthalten sie Angaben darüber, auf welcher Markterhebung sie erteilt werden.
Der rechtliche Rahmen hinkt der technischen Entwicklung also hinterher. Weshalb Votum die zuständigen Aufsichtsbehörden auffordert, zeitnah eine klare regulatorische Einordnung vorzunehmen.
Bafin-Versicherungsaufseherin Julia Wiens berichtete auf dem InsureNXT-Kongress in Köln derweil von den aufsichtsrelevanten Themen im Umgang mit KI. Allerdings ist diese eher auf den Umgang der Versicherer mit KI ausgerichtet.
Die Bafin gehe „risikoorientiert“ vor: „Wir konzentrieren uns auf die Kernprozesse des Versicherungsgeschäfts, also etwa auf das Underwriting, das Pricing oder auch automatisierte Systeme zur Schadenregulierung. Die KI-bezogenen Risiken für genau solche Prozesse stehen für uns im Mittelpunkt“, sagte Wiens.
Eins dieser Risiken seo zum Beispiel ungerechtfertigte Diskriminierung. Etwa, weil die KI mit Datensätzen trainiert wurde, die bestimmte Kundengruppen nicht enthält. „Das kann ein erhebliches Problem sein. Denn nicht-repräsentative Trainingsdaten können dazu führen, dass manche Menschen eng und sehr schwer Zugang zu Finanzen haben“, warnt Wiens.
KI könne auch Risiken verstärken. Wiens: „Denken Sie nur an Cyberkriminelle. Die nutzen KI natürlich auch für ihre Zwecke. Etwa zur Einschleusung von Viren oder für fortgeschrittene Phishing-Techniken.“ Neue, sehr leistungsstarke KI-Modelle verschärften perspektivisch die Bedrohungslage, weil sie in sehr kurzer Zeit sehr viele Schwachstellen in Systemen finden könnten.
Zu der Verantwortung der Versicherer in Sachen KI gehört, dass die Versicherer die Einsatzfelder von KI im Blick haben und nach Risiken kategorisieren können. Solche Informationen etwa in einem KI-Register zu bündeln, sei hilfreich. Wiens: „Im Laufe der nächsten Monate werden wir konkrete aufsichtliche Anforderungen hierzu veröffentlichen.“
Die Bafin werde gemäß der aktuellen Gesetzesvorlage die Marktüberwachung für bestimmte Finanzmarktanwendungen übernehmen. „Unser Mandat umfasst vermutlich in erster Linie verbotene Praktiken, Hochrisiko-KI-Anwendung und Transparenzpflichten. So sieht es der Entwurf des deutschen KI-Marktüberwachungs- und Innovationsförderungsgesetzes vor“, erklärte die Versicherungsaufseherin.
