Zusammenfassung

Folgenabschätzung zur Initiative zur zivilrechtlichen Haftung für durch KI verursachte Schäden

A. Handlungsbedarf

Worin besteht das Problem und warum muss ihm auf EU-Ebene begegnet werden?

Die Einführung von KI ist sowohl ein Ziel der Kommission als auch eine erwartbare Entwicklung. Es wird zwar davon ausgegangen, dass KI-gestützte Produkte/Dienstleistungen sicherer sind als herkömmliche, dennoch wird es weiterhin zu Unfällen kommen.

Die derzeitigen Haftungsvorschriften, insbesondere die einzelstaatlichen Vorschriften über die verschuldensabhängige Haftung, sind nicht für Schadensersatzansprüche für durch KI-gestützte Produkte und Dienstleistungen verursachte Schäden geeignet. Nach diesen Vorschriften müssen die Opfer eine unrechtmäßige Handlung/Unterlassung einer Person beweisen, die den Schaden verursacht hat. Die besonderen Merkmale der KI, darunter Autonomie und Undurchsichtigkeit (der sogenannte „Blackbox“-Effekt), erschweren oder verteuern die Ermittlung der haftbaren Person und den Nachweis der Voraussetzungen für eine erfolgreiche Haftungsklage.

Die Kommission möchte vermeiden, dass die Opfer von durch KI verursachten Schäden, z. B. Bürgerinnen und Bürger oder Unternehmen, weniger geschützt sind als Opfer herkömmlicher Technologien. Fehlende Entschädigungsmöglichkeiten können ihr Vertrauen in KI und letztlich die Akzeptanz von KI-gestützten Produkten und Dienstleistungen beeinträchtigen.

Es ist ungewiss, wie die nationalen Haftungsvorschriften auf die Besonderheiten der KI angewendet werden können. Außerdem können die Gerichte angesichts eines für das Opfer ungerechten Ergebnisses die bestehenden Vorschriften ad hoc anwenden, um zu einem gerechten Ergebnis zu kommen, was zu Rechtsunsicherheit führt. Die Unternehmen können folglich nur schwer vorhersagen, wie die bestehenden Haftungsvorschriften im Schadensfall angewendet werden. Daher werden sie Schwierigkeiten haben, ihr Haftungsrisiko zu bewerten und zu versichern. Diese Auswirkung wird bei grenzüberschreitend tätigen Unternehmen noch verstärkt, da sich die Unsicherheit auf verschiedene Rechtsordnungen erstrecken wird. Besonders betroffen sind KMU, die sich nicht auf internes juristisches Fachwissen oder Kapitalreserven verlassen können.

Es ist auch zu erwarten, dass die Mitgliedstaaten ihre nationalen Haftungsvorschriften an die Herausforderungen der KI anpassen werden, wenn die EU nicht tätig wird. Dies wird zu einer weiteren Fragmentierung führen und die Kosten für grenzüberschreitend tätige Unternehmen erhöhen.

Was soll erreicht werden?

Die Initiative reiht sich in die Priorität der Kommission für den digitalen Wandel ein. Das übergeordnete Ziel ist die Förderung der Einführung vertrauenswürdiger KI, um die Vorteile der KI in vollem Umfang zu nutzen. Ziel des Weißbuchs zur KI ist es daher, ein Ökosystem des Vertrauens zu schaffen, um die Akzeptanz von KI zu fördern. Die Haftungsinitiative stellt die notwendige Konsequenz der an die KI angepassten Sicherheitsvorschriften dar und ergänzt somit das Gesetz über künstliche Intelligenz.

Mit der KI-Initiative wird

-sichergestellt, dass Opfer von KI-gestützten Produkten und Dienstleistungen genauso geschützt sind wie Opfer herkömmlicher Technologien,

-die Rechtsunsicherheit in Bezug auf das Haftungsrisiko von Unternehmen, die KI entwickeln oder nutzen, verringert,

-das Entstehen fragmentierter KI-spezifischer Anpassungen der nationalen Vorschriften über die zivilrechtliche Haftung verhindert.

Worin besteht der Mehrwert des Tätigwerdens auf EU-Ebene (Subsidiarität)? 

Die Förderung der Einführung von KI in Europa setzt voraus, dass der EU-Binnenmarkt für diejenigen Wirtschaftsbeteiligten geöffnet wird, die KI in ihren Unternehmen entwickeln oder einsetzen wollen.

Voraussetzung dafür ist, dass die Rechtsunsicherheit verringert und die Fragmentierung verhindert wird, die entstünden, wenn die Mitgliedstaaten ihre nationalen Vorschriften auf unterschiedliche Weise anpassen.

Nach vorsichtigen Schätzungen würden sich Maßnahmen auf EU-Ebene zur Haftung für KI mit einem Anstieg des Produktionswerts des einschlägigen grenzüberschreitenden Handels um 5-7 % gegenüber dem Basisszenario positiv auswirken.

B. Lösungen

Worin bestehen die Optionen zur Verwirklichung der Ziele? Wird eine dieser Optionen bevorzugt? Falls nicht, warum nicht?

Option 1: drei Maßnahmen zur Erleichterung der Beweislast der Opfer für ihre Haftungsansprüche:

a) Harmonisierung der Art und Weise, wie die gemäß den Produktsicherheitsvorschriften des Gesetzes über künstliche Intelligenz aufgezeichneten/dokumentierten Informationen in Gerichtsverfahren offengelegt werden können, damit das Opfer feststellen und nachweisen kann, welche Handlung/Unterlassung zu dem erlittenen Schaden geführt hat.

b) Weist das Opfer nach, dass die haftende Person die Sicherheitsvorschriften des Gesetzes über künstliche Intelligenz zur Schadensvermeidung nicht eingehalten hat, könnte das Gericht vermuten, dass diese Nichteinhaltung den Schaden verursacht hat. Die potenziell haftende Person hätte die Möglichkeit, eine solche Vermutung zu widerlegen, z. B. durch den Nachweis, dass es eine andere Ursache für den Schaden gibt.

c) Sollte das Opfer seinen Haftungsanspruch nur geltend machen können, wenn es nachweist, was innerhalb des KI-Systems geschehen ist, würden diese Maßnahmen die Beweislast des Opfers erleichtern. Die potenziell haftende Person hätte die Möglichkeit zu beweisen, dass sie nicht fahrlässig gehandelt hat.

Option 2: die Maßnahmen im Rahmen von Option 1 + Harmonisierung der Regelung der verschuldensunabhängigen Haftung für KI-Anwendungsfälle mit einem besonderen Risikoprofil. Verschuldensunabhängige Haftung bedeutet, dass eine Person, die die Allgemeinheit einem Risiko aussetzt (oft im Hinblick auf hochwertige Rechtsgüter (Leben, Gesundheit, Eigentum)) und daraus einen Nutzen zieht, haftet, wenn der Schadensfall eintritt, z. B. die Haftung eines Autobesitzers. In solchen Fällen muss das Opfer nur nachweisen, dass der eingetretene Schaden aus der Risikosphäre des Haftpflichtigen stammt. Dies kann mit einer Pflichtversicherung gekoppelt werden.

Option 3: stufenweiser Ansatz (bevorzugte Option), bestehend aus

– einer ersten Stufe: den Maßnahmen der Option 1 und

– einer zweiten Stufe: einem Überprüfungsmechanismus, um neu zu bewerten, ob eine Harmonisierung der verschuldensunabhängigen Haftung für KI-Anwendungsfälle mit einem besonderen Risikoprofil (möglicherweise gekoppelt mit einer Pflichtversicherung) erforderlich ist.

Welche Standpunkte vertreten die verschiedenen Interessenträger? Wer unterstützt welche Option?

Insgesamt stimmten die meisten Interessenträger den festgestellten Problemen zu und befürworteten Maßnahmen auf EU-Ebene.

Die EU-Bürgerinnen und -Bürger, Verbraucherverbände und akademischen Einrichtungen bestätigten mit erheblicher Mehrheit die Notwendigkeit von Maßnahmen auf europäischer Ebene, um die Schwierigkeiten der Opfer im Hinblick auf die Beweislast zu mildern. Die Unternehmen erkannten zwar die negativen Auswirkungen der Unsicherheit bei der Anwendung der Haftungsvorschriften an, waren jedoch vorsichtiger und forderten eine gezielte Maßnahme, um Innovationen nicht zu behindern.

Ein ähnliches Bild ergab sich bei den Optionen. Die EU-Bürgerinnen und -Bürger, Verbraucherverbände und akademischen Einrichtungen befürworteten nachdrücklich zumindest die Maßnahmen zur Beweislast. Sie sprachen sich auch für die stärkste Maßnahme aus, nämlich die Harmonisierung der verschuldensunabhängigen Haftung in Verbindung mit einer Pflichtversicherung.

Die Unternehmen waren geteilter Meinung, auch abhängig von ihrer Größe. Die verschuldensunabhängige Haftung wurde als unverhältnismäßig angesehen. Die Harmonisierung der Erleichterungen bei der Beweislast fand mehr Unterstützung, insbesondere bei den KMU. Die Unternehmen warnten jedoch vor einer vollständigen Verlagerung der Beweislast.

C. Auswirkungen der bevorzugten Option

Worin bestehen die Vorteile der bevorzugten Option bzw. der wesentlichen Optionen? 

Mit der bevorzugten Option würde sichergestellt, dass die durch KI-gestützte Produkte und Dienstleistungen geschädigten Opfer (natürliche Personen, Unternehmen und andere öffentliche oder private Einrichtungen) nicht weniger geschützt sind als Opfer herkömmlicher Technologien. Dadurch würde das Vertrauen in KI gestärkt und ihre Akzeptanz gefördert.

Darüber hinaus würde die Rechtsunsicherheit verringert und eine Fragmentierung verhindert. Dies käme Unternehmen und vor allem KMU zugute, die das Potenzial des EU-Binnenmarktes durch die grenzüberschreitende Einführung von KI-gestützten Produkten und Dienstleistungen voll ausschöpfen wollen.

Die Initiative würde auch die Bedingungen für Versicherer bezüglich des Angebots einer Deckung von KI-bezogenen Tätigkeiten verbessern, was insbesondere für KMU für das Risikomanagement von entscheidender Bedeutung ist.

Im Hinblick auf den Nutzen für die Umwelt dürfte die Initiative zu Effizienzgewinnen und zu Innovationen bei umweltfreundlichen Technologien beitragen.

Die innovativen Produkte und Dienstleistungen, die mit dieser Initiative gefördert werden sollen, sind größtenteils noch nicht auf dem Markt verfügbar. Die vorgeschlagenen Maßnahmen sind der Zeit voraus, da sie den Rechtsrahmen an die spezifischen Bedürfnisse und Herausforderungen der KI anpassen, um ein Ökosystem des Vertrauens und der Rechtssicherheit zu schaffen.

Aufgrund dieses vorausschauenden politischen Ansatzes sind keine ausreichenden Daten verfügbar, um die Auswirkungen der bevorzugten Option zu quantifizieren. Diese Auswirkungen wurden daher hauptsächlich qualitativ bewertet, wobei alle verfügbaren Daten, Expertenschätzungen und Beiträge von Interessenträgern berücksichtigt wurden. Ausgehend von begründeten Annahmen wurden einige Quantifizierungsansätze verfolgt.

So würde Schätzungen zufolge die bevorzugte Option zu einem Anstieg des KI-Marktwerts in der EU-27 zwischen ca. 500 Mio. EUR und ca. 1,1 Mrd. EUR im Jahr 2025 führen. Eine mikroökonomische Analyse anhand von Marktdaten für Staubsaugerroboter deutet darauf hin, dass die Initiative allein für diese Produktkategorie in der EU-27 einen Wohlfahrtszuwachs von insgesamt 30,11 bis 53,74 Mio. EUR bewirken würde.

Welche Kosten entstehen bei Umsetzung der bevorzugten Option bzw. der wichtigsten Optionen? 

Mit der bevorzugten Option werden Haftungslücken vermieden, die durch die besonderen Merkmale von KI entstehen. Sie soll sicherstellen, dass in den Fällen, in denen das Opfer aufgrund der besonderen Merkmale von KI nicht in der Lage gewesen wäre, die erforderlichen Tatsachen nachzuweisen, nicht das Opfer, sondern die für den Schaden verantwortliche Person die Kosten trägt.

Dies entspricht einem der grundlegenden Ziele des Haftungsrechts, wonach sichergestellt werden soll, dass eine Person, die einer anderen Person rechtswidrig Schaden zufügt, für den dem Opfer entstandenen Schaden aufkommt. Ebenso liegt dem politischen Ziel der Kommission die Auffassung zugrunde, dass Opfer von Schäden, die durch KI-Systeme verursacht wurden, das gleiche Schutzniveau genießen sollten wie Opfer von Schäden, die durch herkömmliche Technologien verursacht wurden. Auf diese Weise werden die Kosten effizienter der Person zugewiesen, die den Schaden tatsächlich verursacht hat und am besten in der Lage ist, Schäden zu verhindern.

Potenziell haftende Personen (insbesondere Unternehmen, die auf dem KI-Markt tätig sind) arbeiten mit hoher Wahrscheinlichkeit mit Versicherungsschutz. Mit Versicherungslösungen lässt sich die Haftungslast auf die Gemeinschaft der Versicherten verteilen, sodass sich die Kosten für die Haftpflichtigen auf die jährlichen Versicherungsprämien beschränken. Die versicherten Haftpflichtigen würden daher die Kosten für die Entschädigung des Opfers nur als geringfügige Erhöhung ihrer Versicherungsprämien wahrnehmen.

Es war nicht möglich, die Kosten mit großer Sicherheit und Genauigkeit zu beziffern, da die mit dieser Initiative geförderten hochmodernen Produkte und Dienstleistungen größtenteils noch nicht auf dem Markt erhältlich sind. Anhand der verfügbaren Daten, der Analyse von Sachverständigen und begründeter Annahmen wurde geschätzt, dass die bevorzugte Option zu einem Anstieg des Gesamtbetrags der jährlich in der EU gezahlten Haftpflichtversicherungsprämien um 5,35 Mio. EUR auf 16,1 Mio. EUR führen könnte.

Welche Auswirkungen hat die Initiative auf KMU und Wettbewerbsfähigkeit?

Durch die Verbesserung der Bedingungen für das Funktionieren des Binnenmarktes für KI-gestützte Produkte und Dienstleistungen würde sich die Initiative positiv auf die Wettbewerbsfähigkeit der auf dem europäischen KI-Markt tätigen Unternehmen auswirken. Diese Unternehmen würden auf globaler Ebene wettbewerbsfähiger werden, was die Position der EU gegenüber ihren Wettbewerbern im globalen KI-Wettlauf (vor allem gegenüber den USA und China) stärken würde. Da es sich bei der KI um eine Querschnittstechnologie handelt, wären diese Vorteile nicht auf bestimmte Sektoren beschränkt, sondern würden – wenn auch in unterschiedlichem Maße – in allen Sektoren gelten, in denen KI entwickelt oder eingesetzt wird.

Eine geringere Rechtsunsicherheit und Fragmentierung käme den KMU noch mehr als anderen Interessenträgern zugute, da sie von diesen Problemen im Rahmen der derzeitigen Haftungsvorschriften stärker betroffen sind. Diese Initiative würde die Bedingungen insbesondere für KMU verbessern, die KI-gestützte Produkte oder Dienstleistungen in anderen Mitgliedstaaten anbieten wollen. Dies ist insofern von entscheidender Bedeutung, als der KI-Markt in der EU zu einem großen Teil von KMU bestimmt wird, die KI-Technologien entwickeln, einsetzen oder nutzen.

Auch als Opfer eines durch KI verursachten Schadens würden KMU von dieser Initiative einen Nutzen ziehen, da sie sich bei der Geltendmachung von Schadensersatzansprüchen auf die Erleichterung der Beweislast verlassen könnten.

Wird es nennenswerte Auswirkungen auf die nationalen Haushalte und Behörden geben? 

Mit nennenswerten Auswirkungen auf nationale Haushalte und Behörden ist nicht zu rechnen.

Die geplanten Maßnahmen zur Erleichterung der Beweislast der Opfer könnten reibungslos in den bestehenden verfahrensrechtlichen und zivilrechtlichen Haftungsrahmen der Mitgliedstaaten aufgenommen werden.

Die Mitgliedstaaten müssen über die Umsetzung der Initiative Bericht erstatten und bestimmte Informationen für die gezielte Überprüfung durch die Kommission bereitstellen. Diese Meldepflichten werden sich jedoch auf Informationen beschränken, die in den bestehenden Datenbanken der Mitgliedstaaten verfügbar sind, sowie auf Informationen, die im Rahmen anderer Rechtsinstrumente (z. B. des Gesetzes über künstliche Intelligenz oder der Kraftfahrzeughaftpflicht-Richtlinie) gemeldet werden, wodurch Synergieeffekte erzielt und die Kohärenz künftiger politischer Maßnahmen in verschiedenen Politikbereichen gewährleistet werden.

Wird es andere nennenswerte Auswirkungen geben? 

Grundrechte Mit der Initiative soll die wirksame private Durchsetzung von Grundrechten unterstützt und das Recht auf einen wirksamen Rechtsbehelf gewahrt werden, wenn in Bezug auf Risiken für die Grundrechte (z. B. Diskriminierung), die von KI ausgehen, ein Schaden eingetreten ist.

Internationale Dimension Durch die Vorlage eines ausgewogenen Konzepts für die Haftung für durch KI verursachte Schäden hat die EU die Möglichkeit, einen weltweiten Maßstab zu setzen und ihren Ansatz als globale Lösung zu fördern, wodurch sich letztlich ein Wettbewerbsvorteil für KI aus Europa ergibt.

Verhältnismäßigkeit 

Die bevorzugte Option soll den Weg für die Entwicklung und Nutzung von KI ebnen und gleichzeitig vor allen Dingen ihre Einführung in der EU fördern.

Diese Option geht jedoch nicht über das erforderliche Maß hinaus. Erstens ist die Maßnahme der EU zielgerichtet, da sie lediglich die Beweislast für die Opfer erleichtern wird. Es werden ausschließlich Elemente der Haftung harmonisiert, die im Zusammenhang mit KI problematisch sind, während andere Elemente wie die Bestimmung des Verschuldens und der Kausalität weiterhin den bestehenden nationalen Rechtsvorschriften unterliegen.

Zweitens wird bei der bevorzugten Option die Bewertung der Notwendigkeit einer Harmonisierung der verschuldensunabhängigen Haftung auf einen späteren Zeitpunkt verschoben, wenn mehr Informationen über die KI und ihre Nutzung vorliegen (siehe nachstehend).

Drittens wird bei der bevorzugten Option ein Mindestharmonisierungsansatz vorgeschlagen. Mit der Mindestharmonisierung werden zwar keine völlig gleichen Wettbewerbsbedingungen geschaffen, aber es wird sichergestellt, dass die neuen Vorschriften reibungslos in den bestehenden zivilrechtlichen Haftungsrahmen der einzelnen Mitgliedstaaten aufgenommen werden können.

Somit werden die Mitgliedstaaten in der Lage sein, die gezielten EU-Maßnahmen der bevorzugten Option in ihrem nationalen Recht umzusetzen. Die Initiative wird EU-weit die Rechtssicherheit erhöhen, eine weitere rechtliche Fragmentierung verhindern und einen wirksamen Schutz der Opfer gewährleisten, der mit dem Schutzniveau für andere Schäden vergleichbar ist.

D. Folgemaßnahmen

Wann wird die Maßnahme überprüft?

Die bevorzugte Option ist ein stufenweiser Ansatz: zunächst Einführung von Maßnahmen zur Erleichterung der Beweislast für die Opfer und fünf Jahre später Evaluierung der Situation anhand einer Überprüfungsklausel. Dieser Prozess wird es der Kommission ermöglichen, in Anbetracht der Entwicklung der Technologie und ihrer Anwendungen zu beurteilen, ob zusätzlich zu den Maßnahmen zur Erleichterung der Beweislast auch eine Harmonisierung der verschuldensunabhängigen Haftung und der Pflichtversicherung erforderlich ist.