KI in der Finanz- und Versicherungsbranche
Die Finanz- und Versicherungsbranche war laut Bundeswirtschaftsministerium bereits 2019 die Branche mit dem zweithöchsten Einsatz von KI in Deutschland. Laut einer Studie von PwC optimieren deutsche Banken und Versicherer aktuell primär die Digitalisierung der Geschäftsprozesse sowie die Kosteneinsparung durch KI. Viele Chancen bleiben indes noch ungenutzt. Beispielsweise könne KI systematisch Kontodaten auswerten oder Nutzerprofile erstellen. Investitionsentscheidungen können durch sogenannte Robo-Advice-Systeme getätigt werden. Ebenso können Zahlungsströme überwacht und Versicherer vor Betrügern geschützt werden.
Welche Risiken gibt es beim Einsatz von KI?
Häufig wird beispielsweise die Fähigkeit zum autonomen Handeln oder der geringe Grad an Transparenz von KI kritisch bewertet. Ebenso kann KI einen erheblichen Einfluss auf Mensch und Umwelt haben. Ein autonom entscheidendes aber für den Kunden intransparentes Kreditvergabesystem einer Bank wirft sowohl ethische als auch rechtliche Fragen auf. Daher gibt es seit Jahren sowohl auf deutscher als auch auf europäischer Ebene Bestrebungen, einen einheitlichen rechtlichen Rahmen für KI zu schaffen.
Vorschlag der EU-Kommission für einen einheitlichen Rechtsrahmen für KI
Die EU-Kommission hat am 21. April den weltweit ersten Vorschlag eines einheitlichen Rechtsrahmens für KI vorgelegt. Die EU beabsichtigt die Stärkung von Europas Position als globales Zentrum für Exzellenz in der KI. Gleichzeitig sollen jedoch nur vertrauenswürdige KI-Systeme zum Einsatz kommen.
Der Entwurf folgt dem Ansatz einer risikobasierten Regulierung. Dabei wird zwischen verbotenen KI-Systemen, KI-Systemen mit hohem Risiko und KI-Systemen mit geringem Risiko unterschieden. Je nach Sicherheitsrisiko sind die Anforderungen an das KI-System höher oder niedriger. Zu den verbotenen KI-Systemen gehören zum Beispiel Systeme mit Techniken zur unterschwelligen Beeinflussung. Ein Beispiel für KI-Systeme mit hohem Risiko sind Kredit-Scoring-Systeme, die Menschen den Zugang zu Finanzierungen verwehren können.
Im Falle eines Verstoßes sieht der Entwurf erhebliche Sanktionen vor (zum Beispiel Geldbußen von bis zu 30 Millionen Euro oder im Fall eines Unternehmens sechs Prozent des weltweit erzielten Jahresumsatzes des vorangegangenen Geschäftsjahrs).
Wenngleich der Entwurf maßgeblich globale Standards auf dem Gebiet von KI beeinflussen wird, ergibt sich aktuell noch keine Handlungspflicht für Unternehmen. Zunächst wird der Entwurf den EU-Gesetzgebungsprozess durchlaufen.
Welche rechtlichen Rahmenbedingungen gelten aktuell?
KI betrifft zahlreiche Rechtsbereiche und Gesetze (zum Beispiel Produktsicherheit, Datenschutz). Dennoch sind KI-Systeme weder in der EU noch anderswo reguliert. Mangels eines einheitlichen Rechtsrahmens stellt KI daher eine große Herausforderung für Rechtsanwender dar.
Vertragsfragen
Verträge, die (vermeintlich) mit KI geschlossen werden (zum Beispiel ein KI-basierter Chatbot, der individuelle Fragen und Kundenanliegen beantwortet), stellen Rechtsanwender vor Herausforderungen mit Blick auf zum Beispiel den Vertragsschluss oder die Vertragsdurchführung. Es stellen sich Fragen der Zurechnung der Erklärung der KI, welche sich nach den allgemeinen Regeln des Bürgerlichen Gesetzbuchs richten.
Haftungsfragen
Zudem sind Haftungsfragen beim Einsatz von KI nicht nur in der Finanz- und Versicherungsbranche von enormer Wichtigkeit. Entstehen beispielsweise Schäden aufgrund eines unsicheren KI-Systems, ergeben sich Fragen des Deliktsrechts sowie des Produkthaftungsrechts. Zur Bewertung potentieller Pflichtverletzungen des Herstellers oder des Verwenders der KI ergeben sich Fragen nach dem anwendbaren Sicherheitsniveau (Stand von Wissenschaft und Technik), welche sich zum Beispiel an Normenreihen des DIN orientieren können, aber gleichzeitig auch aktuellste Entwicklungen berücksichtigen müssen. Diese Fragen sind insbesondere aus Sicht der Unternehmensinhaber wichtig, da sich eine direkte Verantwortlichkeit für Aufsichtsmaßnahmen aus dem Ordnungswidrigkeitsgesetz ergibt.
Datenschutzfragen
Wesentlicher Bestandteil von KI ist die Verarbeitung personenbezogener Daten. Die Verwendung großer Datenmengen (Big Data) scheint bereits mit den Prinzipien der EU Datenschutz-Grundverordnung, insbesondere den Grundsätzen der Datenminimierung und Zweckbindung, kaum vereinbar zu sein. Unternehmen müssen daher Strategien erarbeiten, um das Recht auf Datenschutz auf der einen, und wirtschaftliche und öffentliche Interessen an KI auf der anderen Seite, in Einklang zu bringen. Eine Hilfestellung für Unternehmen können Stellungnahmen der Datenschutzaufsichtsbehörden zum Schutz von Datenschutzbelangen unter Anwendung von KI sein.
Regulatorische Anforderungen
Die Finanz- und Versicherungsbranche profitiert vielfach von der technologischen Entwicklung, wenn zum Beispiel regulatorische Anforderungen an Banken oder Versicherer durch KI erfüllt werden können. Zum Beispiel kann KI bereits heute unerlaubte Insidergeschäfte verfolgen oder Geldwäscheprüfungen erleichtern. Die anwendbaren regulatorischen Anforderungen an Banken oder Versicherer (zum Beispiel das Kreditwesengesetz, welches zum Beispiel beim Einsatz von Robo-Advisor zur Anwendung gelangt) sind glücklicherweise bereits jetzt häufig innovationsoffen formuliert. Der Einsatz von KI wirft viele weitere rechtliche Fragen auf, insbesondere rund um das Recht des geistigen Eigentums, das Arbeitsrecht (zum Beispiel Robo-Recruiting), das Verbraucherschutzrecht oder das Strafrecht.
Mehr Rechtssicherheit wünschenswert
Es überrascht nicht, dass deutsche Unternehmen der Finanz- und Versicherungsbranche KI aktuell noch eher zurückhaltend einsetzen. Ihr Einsatz benötigt neben dem Aufbau des technischen Knowhows auch die Ressourcen, sich mit den zahlreichen rechtlichen Fragen auseinanderzusetzen. Nichtsdestotrotz liegen die Vorteile von KI, insbesondere für die Finanz- und Versicherungsbranche, auf der Hand.
Daher ist es wünschenswert, dass die EU einen einheitlichen Rechtsrahmen für KI schafft. Die Kunst wird dabei darin bestehen, Innovationen innerhalb eines risikoadäquaten Rechtsrahmens bei gleichzeitiger Rechtssicherheit zu ermöglichen.
Autorin Nadine Neumeier ist Counsel im Frankfurter Büro von Dentons und Mitglied der Praxisgruppe Gewerblicher Rechtsschutz und Technologie.
