Samenvatting

Effectbeoordeling van het initiatief inzake civielrechtelijke aansprakelijkheid voor door AI veroorzaakte schade

A. De noodzaak om actie te ondernemen

Wat is het probleem en waarom is het een probleem op EU-niveau?

De uitrol van AI is zowel een doelstelling van de Commissie als een verwachte trend. Hoewel op AI gebaseerde producten en diensten naar verwachting veiliger zullen zijn dan traditionele producten en diensten, zal er nog steeds het nodige kunnen misgaan.

De huidige regels inzake aansprakelijkheid – met name nationale regels die op schuld zijn gebaseerd – zijn niet geschikt voor de behandeling van vorderingen tot vergoeding van schade die door op AI gebaseerde producten en diensten is veroorzaakt. Volgens die regels moeten gelaedeerden het bestaan van een onrechtmatig doen of nalaten bewijzen van de persoon die de schade heeft veroorzaakt. De specifieke kenmerken van AI, waaronder autonomie en ondoorzichtigheid (het zogenaamde “black box”-effect), kunnen het moeilijk of buitensporig kostbaar maken om de aansprakelijke persoon te identificeren en te bewijzen dat aan de voorwaarden voor een succesvolle vordering op grond van aansprakelijkheid is voldaan.

De Commissie wil voorkomen dat gelaedeerden die door AI veroorzaakte schade hebben geleden, zoals burgers en bedrijven, minder worden beschermd dan slachtoffers van traditionele technologieën. Een dergelijke tekortkoming op het gebied schadevergoeding kan van invloed zijn op hun vertrouwen in AI en uiteindelijk op de aanvaarding van op AI gebaseerde producten en diensten.

Gezien de specifieke kenmerken van AI is het onduidelijk of de nationale aansprakelijkheidsregels daarop kunnen worden toegepast. Bovendien kan de rechter, gesteld voor een uitkomst die onrechtvaardig is voor de gelaedeerde, de bestaande regels ad hoc zodanig toepassen dat een billijk resultaat wordt bereikt. Hierdoor zal rechtsonzekerheid ontstaan. Als gevolg daarvan zullen bedrijven moeilijk kunnen voorspellen hoe de bestaande aansprakelijkheidsregels zullen worden toegepast wanneer er sprake van schade is. Zij zullen dus moeite hebben om te beoordelen in hoeverre ze aansprakelijk kunnen worden gesteld en om zich tegen dat risico te verzekeren. Dit effect is groter in het geval van bedrijven die grensoverschrijdend actief zijn, aangezien hun onzekerheid verschillende rechtsgebieden zal betreffen. Dit zal met name gevolgen hebben voor kmo’s, die geen beroep kunnen doen op interne juridische expertise of kapitaalreserves.

Ook wordt verwacht dat bij uitblijven van EU-optreden, de lidstaten hun nationale aansprakelijkheidsregels zullen aanpassen aan de problemen die AI oplevert. Dit zal leiden tot verdere versnippering en hogere kosten voor bedrijven die grensoverschrijdend actief zijn.

Wat is het streefdoel?

Het initiatief geeft uitvoering aan de prioriteit van de Commissie inzake digitale transitie. De overkoepelende doelstelling is de uitrol van betrouwbare AI te stimuleren teneinde de voordelen van AI ten volle te benutten. Het AI-witboek is dan ook gericht op het creëren van een ecosysteem van vertrouwen dat de aanvaarding van AI bevordert. Het initiatief inzake aansprakelijkheid vloeit noodzakelijkerwijs voort uit de aan AI aangepaste veiligheidsvoorschriften en vormt dus een aanvulling op de AI-verordening.

Het initiatief inzake AI zal:

-ervoor zorgen dat degenen die schade hebben geleden door op AI gebaseerde producten en diensten eenzelfde bescherming genieten als degenen die schade hebben geleden als gevolg van traditionele technologieën;

-de rechtsonzekerheid verminderen inzake het risico om aansprakelijk te worden gesteld dat bedrijven lopen die AI ontwikkelen of gebruiken;

-voorkomen dat er versnipperde, AI-specifieke aanpassingen van de nationale regels inzake civielrechtelijke aansprakelijkheid ontstaan.

Wat is de meerwaarde van EU-maatregelen (subsidiariteit)? 

Het bevorderen van de uitrol van AI in Europa houdt in dat de eengemaakte markt van de EU moet worden opengesteld voor marktdeelnemers die AI in hun bedrijf willen ontwikkelen of invoeren.

De eerste vereisten daarvoor zijn het verminderen van de rechtsonzekerheid en het voorkomen van versnippering die ontstaat wanneer lidstaten uit eigen beweging hun nationale regels op uiteenlopende wijze gaan aanpassen.

Volgens conservatieve schattingen zouden maatregelen op EU-niveau inzake aansprakelijkheid voor AI een positief effect hebben in de zin van een toename van 5 tot 7 % van de productiewaarde van relevante grensoverschrijdende handel ten opzichte van het basisscenario.

B. Oplossingen

Welke opties dienen zich aan? Is er al dan niet een voorkeursoptie? Zo niet, waarom?

Beleidsoptie 1: drie maatregelen ter verlichting van de last voor gelaedeerden om hun vordering op grond van aansprakelijkheid aan te tonen:

a) Het harmoniseren van de wijze waarop de overeenkomstig de productveiligheidsregels van de AI-verordening geregistreerde/gedocumenteerde informatie in gerechtelijke procedures openbaar kan worden gemaakt, zodat de gelaedeerde kan vaststellen en bewijzen welk doen of nalaten tot de geleden schade heeft geleid.

b) Indien het slachtoffer aantoont dat de aansprakelijke persoon de veiligheidsvoorschriften van de AI-verordening ter voorkoming van schade niet in acht heeft genomen, zouden de rechtbanken van het vermoeden uit kunnen gaan dat deze niet-nakoming de schade heeft veroorzaakt. De potentieel aansprakelijke persoon zou de mogelijkheid hebben een dergelijk vermoeden te weerleggen, bijvoorbeeld door aan te tonen dat de schade een andere oorzaak heeft gehad.

c) Wanneer het slachtoffer de vordering op grond van aansprakelijkheid alleen maar kan bewijzen door aan te tonen wat er binnenin de AI is gebeurd, zou een dergelijke bewijslast voor de gelaedeerde worden verlicht. De potentieel aansprakelijke persoon zou de mogelijkheid hebben om aan te tonen dat hij niet onzorgvuldig heeft gehandeld.

Beleidsoptie 2: de maatregelen in het kader van optie 1 + harmonisering van risicoaansprakelijkheidsregels voor gevallen van AI-gebruik met een specifiek risicoprofiel. Risicoaansprakelijkheid houdt in dat een persoon die het publiek blootstelt aan een risico (vaak voor een rechtsgoed van hoge waarde (leven, gezondheid, eigendom)) en daar een voordeel aan ontleent, aansprakelijk is indien een dergelijk risico zich materialiseert. Daarbij valt bijvoorbeeld te denken aan de aansprakelijkheid van de eigenaar van een auto. In dergelijke gevallen hoeft de gelaedeerde alleen aan te tonen dat de ontstane schade voortvloeit uit de risicosfeer van de aansprakelijke persoon. Dit kan worden gecombineerd met een verplichte verzekering.

Beleidsoptie 3: gefaseerde aanpak (voorkeursoptie) bestaande uit een

- eerste fase: de maatregelen in het kader van optie 1, en een

- tweede fase: een evaluatiemechanisme om opnieuw te beoordelen of risicoaansprakelijkheidsregels voor gevallen van AI-gebruik met een specifiek risicoprofiel moeten worden geharmoniseerd (eventueel in combinatie met een verplichte verzekering).

Hoe reageren de verschillende belanghebbenden? Wie steunt welke optie?

In het algemeen waren de meeste belanghebbenden het eens met de vaststelling van de problemen en steunden zij maatregelen op EU-niveau.

EU-burgers, consumentenorganisaties en academische instellingen bevestigden met grote meerderheid dat de EU maatregelen moet nemen om de problemen van gelaedeerden met betrekking tot de bewijslast te verlichten. Hoewel bedrijven de negatieve gevolgen bevestigden van de onzekerheid over de toepassing van aansprakelijkheidsregels, waren zij voorzichtiger en vroegen zij om een gerichte interventie zodat innovatie niet wordt beperkt.

Wat de beleidsopties betreft, was een vergelijkbaar beeld te zien. EU-burgers, consumentenorganisaties en academische instellingen spraken zich krachtig uit voor - als een minimum - de maatregelen inzake de bewijslast. Zij pleitten ook voor de krachtigste maatregel, namelijk de harmonisatie van risicoaansprakelijkheid in combinatie met verplichte verzekering.

Bedrijven lieten meer verdeeldheid zien, waarbij ook hun omvang een rol speelde. Risicoaansprakelijkheid werd als onevenredig beschouwd. Harmonisatie van de verlichting van de bewijslast kreeg meer steun, met name onder kmo’s. Bedrijven waarschuwden echter voor een volledige verschuiving van de bewijslast.

C. Effecten van de voorkeursoptie

Wat zijn de voordelen van de voorkeursoptie (indien er een voorkeur is, anders van de belangrijkste opties)? 

De voorkeursoptie zou ervoor zorgen dat degenen die schade hebben geleden door op AI gebaseerde producten en diensten (natuurlijke personen, bedrijven en andere, publieke of private, entiteiten) niet minder worden beschermd dan degenen die schade hebben geleden als gevolg van traditionele technologieën. Zij zou het vertrouwen in AI vergroten en de aanvaarding ervan bevorderen.

Bovendien zou het initiatief de rechtsonzekerheid verminderen en versnippering voorkomen, wat bedrijven, en vooral kmo’s, die het volledige potentieel van de eengemaakte markt van de EU willen benutten door op AI gebaseerde producten en diensten over de grenzen heen uit te rollen, zou helpen.

Het initiatief zou ook betere voorwaarden creëren voor verzekeraars om dekking van AI-gerelateerde activiteiten aan te bieden, wat met name van cruciaal belang is voor het risicobeheer van kmo’s.

Wat de milieuvoordelen betreft, zal het initiatief naar verwachting efficiëntiewinst opleveren en bijdragen tot de innovatie van milieuvriendelijke technologieën.

De zeer geavanceerde producten en diensten die dit initiatief beoogt te bevorderen, zijn voor het merendeel nog niet op de markt. De voorgestelde maatregelen zijn toonaangevend, aangezien zij het rechtskader aanpassen aan de specifieke behoeften en uitdagingen van AI, teneinde een ecosysteem van vertrouwen en rechtszekerheid tot stand te brengen.

Als gevolg van deze toekomstgerichte beleidsaanpak zijn er onvoldoende gegevens beschikbaar om de effecten van de voorkeursoptie te kwantificeren. Deze effecten werden daarom voornamelijk kwalitatief beoordeeld, rekening houdend met alle beschikbare gegevens, ramingen van deskundigen en input van belanghebbenden. Op basis van gemotiveerde veronderstellingen werd een aantal kwantificeringsbenaderingen gevolgd.

Er wordt met name geschat dat de voorkeursoptie een hogere marktwaarde voor AI in de EU-27 zou genereren, die in 2025 ergens tussen de 500 miljoen en 1,1 miljard EUR zou bedragen. Bovendien wijst een micro-economische analyse op basis van marktgegevens voor robotstofzuigers erop dat het initiatief alleen al voor deze productcategorie zou leiden tot een toename van het totale welzijn in de EU-27 met 30,11 tot 53,74 miljoen EUR.

Wat zijn de kosten van de voorkeursoptie (indien er een voorkeur is, anders van de belangrijkste opties)? 

De voorkeursoptie voorkomt lacunes inzake aansprakelijkheid als gevolg van de specifieke kenmerken van AI. Zij zou ervoor zorgen dat in de gevallen waarin de gelaedeerde vanwege de specifieke kenmerken van AI niet in staat zou zijn geweest de noodzakelijke feiten te bewijzen, niet de gelaedeerde, maar de persoon die verantwoordelijk is voor het veroorzaken van de schade, de kosten draagt.

Dit is in overeenstemming met een van de fundamentele doelstellingen van het aansprakelijkheidsrecht, namelijk ervoor zorgen dat een persoon die een ander persoon onrechtmatig schade toebrengt, de aan de gelaedeerde berokkende schade vergoedt. Het is ook inherent aan de beleidsdoelstelling van de Commissie om ervoor te zorgen dat degenen die schade lijden die door de betrokkenheid van AI-systemen is veroorzaakt, hetzelfde beschermingsniveau genieten als degenen die schade lijden die door traditionele technologieën is veroorzaakt. Dit leidt tot een efficiëntere kostentoerekening aan de persoon die de schade daadwerkelijk heeft veroorzaakt en het best in staat is om te voorkomen dat er schade optreedt.

Potentieel aansprakelijke personen (met name bedrijven die actief zijn op de AI-markt) zijn hoogstwaarschijnlijk gedekt door een verzekering. Door een verzekering kan de last van de aansprakelijkheid over de gemeenschap van verzekerden worden gespreid en zijn de kosten van de aansprakelijke personen dus beperkt tot de jaarlijkse verzekeringspremies. De aansprakelijke personen die verzekerd zijn, zouden de kosten van de schadeloosstelling van de gelaedeerde dus slechts als een marginale stijging van hun verzekeringspremies ervaren.

Een zeer robuuste en nauwkeurige kostenkwantificering was niet mogelijk omdat de zeer geavanceerde producten en diensten die door dit initiatief worden gepromoot, voor het merendeel nog niet op de markt zijn. Op basis van de beschikbare gegevens, analyses van deskundigen en gemotiveerde veronderstellingen werd geschat dat de voorkeursoptie het totaalbedrag van de premies voor algemene aansprakelijkheidsverzekeringen die ieder jaar in de EU worden betaald, met 5,35 miljoen EUR zou kunnen doen stijgen tot 16,1 miljoen EUR.

Wat zijn de gevolgen voor kleine en middelgrote ondernemingen en voor het concurrentievermogen?

Door de voorwaarden voor de werking van de interne markt voor op AI gebaseerde producten en diensten te verbeteren, zou het initiatief een positief effect hebben op het concurrentievermogen van ondernemingen die actief zijn op de Europese AI-markt. Deze ondernemingen zouden wereldwijd concurrerender worden, wat de positie van de EU ten opzichte van haar concurrenten in de wereldwijde AI-wedloop (vooral de VS en China) zou versterken. Aangezien AI een geavanceerde ontsluitende technologie is, zouden deze voordelen niet beperkt blijven tot bepaalde specifieke sectoren, maar van toepassing zijn in alle sectoren waar AI wordt ontwikkeld of gebruikt, zij het in verschillende mate.

Kmo’s zouden nog meer baat hebben bij minder rechtsonzekerheid en versnippering dan andere belanghebbenden, omdat zij in het kader van de huidige aansprakelijkheidsregels meer te lijden hebben onder deze problemen. Dit initiatief zou met name de voorwaarden verbeteren voor kmo’s die op AI gebaseerde producten of diensten in andere lidstaten willen uitrollen. Dit is van cruciaal belang omdat de AI-markt van de EU in belangrijke mate wordt aangedreven door kmo’s die AI-technologieën ontwikkelen, uitrollen of gebruiken.

Kmo’s zouden ook wanneer zij schade lijden als gevolg van AI, baat hebben bij dit initiatief, aangezien zij een beroep zouden kunnen doen op de verlichting van hun bewijslast bij het vorderen van schadevergoeding.

Zijn er significante gevolgen voor de nationale begrotingen en overheden? 

Er worden geen significante gevolgen voor de nationale begrotingen en overheden verwacht.

De beoogde maatregelen ter verlichting van de bewijslast van gelaedeerden zouden soepel in de bestaande procedurele kaders en kaders voor civielrechtelijke aansprakelijkheid van de lidstaten kunnen worden geïntegreerd.

De lidstaten zullen verslag moeten uitbrengen over de uitvoering van het initiatief en bepaalde informatie moeten verstrekken voor de gerichte herziening door de Commissie. Deze verslagleggingsvereisten zullen echter beperkt blijven tot informatie die beschikbaar is via bestaande databanken van de lidstaten en informatie die wordt gerapporteerd in het kader van andere rechtsinstrumenten (bv. de AI-verordening of de richtlijn motorrijtuigenverzekering), waardoor synergieën zullen ontstaan en de samenhang van toekomstige beleidsmaatregelen op verschillende beleidsterreinen wordt gewaarborgd.

Zijn er nog andere significante gevolgen? 

Grondrechten: het initiatief zal bijdragen tot de doeltreffende particuliere handhaving van de grondrechten en het recht op een doeltreffende voorziening in rechte in stand houden wanneer de risico’s van AI voor de grondrechten (bv. discriminatie) zich hebben gematerialiseerd.

Internationale dimensie: door een evenwichtige aanpak van de aansprakelijkheid voor door AI veroorzaakte schade voor te stellen, heeft de EU de mogelijkheid om een mondiale benchmark vast te stellen en haar aanpak als mondiale oplossing te bevorderen, wat uiteindelijk een concurrentievoordeel voor “AI made in Europe” zou opleveren.

Evenredigheid? 

De voorkeursoptie is bedoeld om het pad te effenen voor de ontwikkeling en het gebruik van AI en tegelijkertijd de belangrijkste doelstelling te verwezenlijken, namelijk het bevorderen van de uitrol ervan in de EU.

Deze optie gaat echter niet verder dan nodig is. Ten eerste is het optreden van de EU gericht, omdat het alleen maar de bewijslast voor slachtoffers zal verlichten. Het zal alleen elementen van aansprakelijkheid harmoniseren waarvoor AI problemen oplevert en andere elementen, zoals de vaststelling van schuld en causaal verband, overlaten aan de bestaande nationale wetgeving.

Ten tweede stelt de voorkeursoptie de beoordeling van de noodzaak om risicoaansprakelijkheid te harmoniseren uit tot een latere fase, wanneer meer informatie over AI en het gebruik ervan kan worden verzameld (zie hieronder).

Ten derde zal de voorkeursoptie een benadering van minimale harmonisatie voorstellen. Hoewel minimale harmonisatie geen volledig gelijk speelveld creëert, zorgt zij ervoor dat de nieuwe regels in elke lidstaat soepel in het bestaande wettelijke kader voor civielrechtelijke aansprakelijkheid kunnen worden geïntegreerd.

Zo zullen de lidstaten de gerichte EU-interventies van de voorkeursoptie in hun nationale wetgeving kunnen integreren en zal het initiatief in de hele EU de rechtszekerheid vergroten, verdere juridische versnippering voorkomen en zorgen voor een doeltreffende bescherming van gelaedeerden waarvan het niveau vergelijkbaar is met het beschermingsniveau voor andere schade.

D. Evaluatie

Wanneer wordt dit beleid geëvalueerd?

De voorkeursoptie bestaat uit een gefaseerde aanpak: eerst worden maatregelen genomen om de bewijslast voor de gelaedeerde te verlichten en vervolgens wordt, op basis van een herzieningsclausule, de situatie vijf jaar later beoordeeld. Dit proces zal de Commissie in staat stellen om in het licht van de ontwikkeling van de technologie en het gebruik ervan te beoordelen of, naast de maatregelen ter verlichting van de bewijslast, ook harmonisatie van risicoaansprakelijkheid en verplichte verzekering nodig zijn.