Risiken generativer KI „komplex und noch kaum verstanden“

28.10.2025 – Generative KI breitet sich rasch als Werkzeug im Unternehmenseinsatz aus, und es besteht Bereitschaft, dafür Versicherungsschutz einzukaufen: So jedenfalls stellt sich die Lage laut Geneva Association auf Basis einer internationalen Umfrage dar. Da die Risiken komplex und bislang noch kaum verstanden seien, sieht der Verband Versicherer, Regulierung und IT-Anbieter gefordert, einen schützenden und gleichzeitig innovationsfreundlichen Rahmen zu entwickeln.

Bericht der Geneva Association
zu Risiken generativer KI
(Cover; Quelle: GA)

Fast jedes dritte Unternehmen (29,9 Prozent) mit zehn oder mehr Beschäftigten setzt künstliche Intelligenz ein. Dies geht aus neuen Daten der Statistik Austria hervor. Gegenüber den Vorjahren ist das ein merklicher Anstieg: 2024 waren es 20,3 Prozent, 2023 erst 10,8 Prozent.

Weltweit seien Unternehmen im Begriff, generative KI (englisch abgekürzt „Gen AI“) in hohem Tempo in Produkte, Dienstleistungen und interne Abläufe zu integrieren, stellte die Geneva Association (GA), ein internationales Netzwerk von Managern von Versicherern und Rückversicherern, kürzlich fest.

Als „generativ“ wird KI bezeichnet, die neue Inhalte wie Texte, Bilder, Videos und Audio usw. erzeugen kann. Die Integration von „Gen AI“ biete enorme Chancen für Innovation und Effizienz, so die GA. Andererseits entstünden auch neue Risiken: von fehlerhaften Ergebnissen über Urheberrechtsverletzungen bis hin zu Schwachstellen in der Cybersicherheit.

Einsatzzwecke und Problemfelder

Anlass für diesen Befund war die jüngst erfolgte Veröffentlichung eines GA-Berichts, für den im Februar je 100 Firmenversicherungskunden in Deutschland, Frankreich und Großbritannien, den USA, China und Japan befragt worden waren.

71 Prozent gaben dabei an, generative KI in mindestens einem Bereich implementiert zu haben. Einsatzzwecke sind beispielsweise die Erstellung interner Geschäftsberichte oder personalisierter Marketinginhalte und prädiktive, also prognostizierende, Analysen.

Haben die Befragten bei der Nutzung generativer KI Probleme erlebt oder von solchen gehört? Gut ein Drittel nannte Ungenauigkeit oder irreführende Information, ein knappes Drittel Schwierigkeiten bei der Integration in bestehende Systeme und über ein Viertel vermisste Konsistenz in den Antworten. Auch ungenügende Behandlung komplexer Fälle oder Fehlinterpretation von Kundenwünschen wurden thematisiert.

Breite Bereitschaft, in KI-Deckung zu investieren

Über 90 Prozent zeigten Interesse an einem Versicherungsschutz für Risiken im Zusammenhang mit generativer KI. Ein Viertel zeigt sich bereit, für eine solche Deckung bis zu 10 Prozent der schon bisher anfallenden Versicherungsausgaben zu zahlen, weitere rund zwei Drittel bis zu 20 Prozent.

Die Bereitschaft, mehr Prämie für derartige Risiken auszugeben, sei „überraschend hoch“ und sollte deshalb „mit Vorsicht“ interpretiert werden, ist im Bericht zu lesen. Nichtsdestoweniger sei dies ein „starker Indikator“ dafür, dass Unternehmen bereit sind, in KI-Versicherungsdeckung zu investieren.

Wo man sich Versicherungsschutz besonders wünscht

Unter den Risiken, die man gedeckt haben möchte, nehmen Cybersicherheitsrisiken einen prominenten Platz ein, ebenso Haftungsrisiken gegenüber Dritten. Beide wurden von mehr als der Hälfte angeführt. Betriebsunterbrechungsrisiken nannte jeder Zweite. Danach folgen Risiken im Zusammenhang mit Urheberrechtsverletzungen, Regulierung und Compliance sowie Reputation.

„Generative KI verstärkt einige bestehende Risiken und schafft völlig neue Risikokategorien, die über die traditionellen Grenzen der Versicherung hinausgehen“, sagt Ruo Jia, Direktor für digitale Technologien bei der Geneva Association und Hauptautor des Berichts.

Die Umfrage zeige eine starke Nachfrage nach Risikotransferlösungen, insbesondere von Unternehmen, die bereits ein schwerwiegendes Versagen generativer KI erlebt haben. Sie hebe aber auch die Herausforderungen in Bezug auf die Versicherbarkeit hervor.

Wie GA anmerkt, geben Schwierigkeiten bei der Überprüfung der Risiken im Zusammenhang mit „Gen AI“ und auch das Potenzial für hohe Verluste Anlass zu Bedenken hinsichtlich der Versicherbarkeit. Der Verband sieht dabei auch Parallelen zu den Herausforderungen in der Cyberversicherung.

„Dringlichkeit“ für Versicherung, Regulierung und IT

„Nur wenige Technologien in der Geschichte haben sich so schnell verbreitet wie ‚Gen AI‘, doch ihre Risiken sind komplex und kaum verstanden“, kommentiert Jad Ariss, Geschäftsführer der Geneva Association.

Die Erkenntnisse des Berichts unterstreichen laut Ariss auch die „Dringlichkeit“ für Versicherer, Regulierungsinstanzen und Technologieanbieter, gemeinsam einen Rahmen zu entwickeln, der Unternehmen schützt und gleichzeitig Innovationen in allen Wirtschaftsbereichen fördert.

Versicherer „experimentieren“ derzeit sowohl mit Polizzenerweiterungen als auch mit eigenständigen KI-Produkten, so die GA. Sie hält modulare Ansätze und branchenübergreifende Partnerschaften für entscheidend, um Schutzlücken zu schließen.

Zum Herunterladen

Der Bericht „Gen AI Risks for Businesses: Exploring the role for insurers“ kann als PDF-Dokument von der Website der Geneva Association heruntergeladen werden. Eine Zusammenfassung steht ebenfalls zum Herunterladen bereit.