Entscheider unterschätzen rechtliche Risiken der KI

Künstliche Intelligenz ist in vielen deutschen Dienstleistungsunternehmen längst fester Bestandteil der Strategie, vorangetrieben vor allem durch die KI-Entscheiderinnen und Entscheider. Gleichzeitig hakt es noch beim Verständnis rechtlicher Anforderungen und wenn es darum geht, sich vor potenziellen Risiken zu schützen. Zu diesem Ergebnis gelangt eine repräsentative Umfrage des Cyberversicherers Hiscox. Der Marktforschungsdienstleister Appinio hat dafür 400 KI-Entscheider und Nutzer befragt.

Mehr zum Thema

Pfeffi hat sich umgehört

Dafür nutzen Deutschlands Versicherer KI-Anwendungen – Teil 1

Allianz, Hanse-Merkur, R+V, Signal Iduna

Diese KI-Anwendungen nutzen Versicherer – Teil 2

Makler & Künstliche Intelligenz

„Wir müssen uns an eine Welt mit KI gewöhnen“

Pfeffi hat sich umgehört

Dafür nutzen Deutschlands Versicherer KI-Anwendungen – Teil 1

Allianz, Hanse-Merkur, R+V, Signal Iduna

Diese KI-Anwendungen nutzen Versicherer – Teil 2

Makler & Künstliche Intelligenz

„Wir müssen uns an eine Welt mit KI gewöhnen“

Absicherung gegen KI-Risiken bleibt Ausnahme

Trotz der weit verbreiteten Nutzung von KI bleibt die Absicherung gegen damit verbundene Risiken bei den Befragten die Ausnahme. Nur 24,7 Prozent der Unternehmen sind gegen KI-Risiken versichert.

• 14,0 Prozent der KI-Entscheider wissen nicht, ob ihr Unternehmen abgesichert ist.
• 14,7 Prozent glauben sogar, dass eine Absicherung gegen KI-Risiken grundsätzlich nicht möglich sei.

Diese Zahlen zeigen nicht nur eine geringe Marktdurchdringung, sondern vor allem ein massives Informationsdefizit. Viele Unternehmen sind sich der potenziellen Risiken, etwa durch fehlerhafte KI-Entscheidungen, Datenschutzverstöße oder regulatorische Konflikte, zwar bewusst. Sie wissen aber nicht, wie sie sich dagegen schützen können.

Noch wenig Know-how in Unternehmen

Das betrifft nicht nur die Absicherung selbst, sondern auch das Verständnis dafür, welche Risiken überhaupt versicherbar sind und welche Anforderungen, etwa durch den AI-Act, an Unternehmen gestellt werden. Außerdem haben nur 43 Prozent der Unternehmen, die KI einsetzen, ihre Mitarbeitenden dazu geschult, wie sie KI sicher nutzen.

53 Prozent der Entscheider geben zu, dass es im Unternehmen generell noch an grundlegendem Know-how fehlt. Besonders alarmierend: Selbst unter den Entscheidern selbst ist das Wissen über regulatorische Anforderungen wie den AI-Act oft lückenhaft: 42 Prozent haben viele Unsicherheiten, was gesetzliche Vorgaben betrifft, obwohl diese bereits heute konkrete Pflichten mit sich bringen.

Wofür Firmen künstliche Intelligenz einsetzen

Auch wenn die Risiken und Anforderungen laut Studie noch recht unklar sind, treiben die Befragten KI-Projekte voran, investieren gezielt in neue Technologien und sehen in KI einen zentralen Hebel für Effizienz, Qualität und Wettbewerbsfähigkeit. 76 Prozent setzen KI bereits ein. 81 Prozent erwarten dadurch einen positiven Effekt auf die Wettbewerbsfähigkeit. Besonders häufig wird KI …

• in der Datenanalyse (49 Prozent),
• im Kundenservice (47 Prozent) und
• im Personalwesen (28 Prozent) eingesetzt.

Den „KI-Reifegrad“ des eigenen Unternehmens schätzten die Entscheider auf einer Skala von 1 („kein Einsatz“) bis 10 („voll integriert“) im Median auf 6, also ziemlich optimistisch.