Santraukos lentelė

Iniciatyvos dėl civilinės atsakomybės už dirbtinio intelekto padarytą žalą poveikio vertinimas

A. Būtinybė imtis veiksmų

Kokia tai problema ir kodėl ji yra ES masto?

Dirbtinio intelekto diegimas yra tiek Komisijos tikslas, tiek tikėtina tendencija. Nors manoma, kad dirbtiniu intelektu grindžiami produktai ir (arba) paslaugos bus saugesni nei tradiciniai, vis tiek įvyks nelaimingų atsitikimų.

Šiuo metu galiojančios atsakomybės taisyklės, visų pirma nacionalinės atsakomybės taisyklės, grindžiamos kalte, nėra pritaikytos reikalavimams atlyginti žalą, patirtą dėl dirbtiniu intelektu grindžiamų produktų ir paslaugų, nagrinėti. Taikant šias taisykles nukentėjusieji turi įrodyti, kad žalą sukėlęs asmuo vykdė neteisėtus veiksmus arba neveikė. Dėl specifinių dirbtinio intelekto savybių, įskaitant autonomiją ir neskaidrumą (vadinamąjį juodosios dėžės reiškinį) gali būti sunku arba pernelyg brangu nustatyti atsakingą asmenį ir įrodyti, kad pretenzijos dėl atsakomybės atitinka reikalavimus.

Komisija nori, kad nukentėjusieji dėl dirbtinio intelekto padarytos žalos, pavyzdžiui, piliečiai ar įmonės, būtų apsaugoti ne mažiau nei nukentėjusieji dėl tradicinių technologijų. Dėl tokios žalos atlyginimo nebuvimo gali būti daromas poveikis jų pasitikėjimui dirbtiniu intelektu ir galiausiai dirbtiniu intelektu grindžiamų produktų ir (arba) paslaugų diegimui.

Neaišku, kaip nacionalinės atsakomybės taisyklės gali būti pritaikomos atsižvelgiant į dirbtinio intelekto ypatumus. Be to, matydami nukentėjusiojo atžvilgiu neteisingą rezultatą, teismai, siekdami teisingo rezultato, galiojančias taisykles gali taikyti ad hoc. Dėl to atsiras teisinis netikrumas. Todėl įmonėms bus sunku numatyti, kaip žalos atveju bus taikomos galiojančios atsakomybės taisyklės. Joms bus sunku įvertinti savo atsakomybės riziką ir nuo jos apsidrausti. Šis poveikis yra dar didesnis, kai įmonės veikia tarpvalstybiniu mastu, nes netikrumas bus susijęs su skirtingomis jurisdikcijomis. Tai turės ypač didelį poveikį MVĮ, kurios neturi savo teisininkų arba kapitalo rezervų.

Taip pat manoma, kad, jeigu ES nesiims veiksmų, valstybės narės pačios pritaikys savo nacionalines atsakomybės taisykles atsižvelgdamos į dirbtinio intelekto keliamas problemas. Dėl to atsiras dar didesnis susiskaidymas, o tarpvalstybiniu mastu veikiančios įmonės patirs daugiau išlaidų.

Ką reikėtų pasiekti?

Šia iniciatyva įgyvendinamas Komisijos prioritetas skaitmeninės pertvarkos srityje. Svarbiausias tikslas – skatinti patikimo dirbtinio intelekto diegimą, kad būtų galima gauti visą dirbtinio intelekto naudą. Todėl Baltojoje knygoje dėl dirbtinio intelekto siekiama sukurti pasitikėjimo ekosistemą, kurioje būtų skatinamas dirbtinio intelekto įsisavinimas. Ši iniciatyva dėl atsakomybės yra būtinas saugos taisyklių, pritaikytų dirbtiniam intelektui, rezultatas ir ja papildomas Dirbtinio intelekto aktas.

Šia dirbtinio intelekto iniciatyva bus:

-užtikrinama, kad dėl dirbtiniu intelektu grindžiamų produktų ir (arba) paslaugų nukentėję asmenys būtų apsaugoti taip pat kaip ir nukentėjusieji dėl tradicinių technologijų;

-sumažintas dirbtinį intelektą kuriančių ar naudojančių įmonių patiriamas teisinis netikrumas, susijęs su atsakomybės rizika;

-užkirstas kelias nesuvienodintam su dirbtiniu intelektu susijusių nacionalinių civilinės atsakomybės taisyklių taikymui.

Kokia būtų papildoma ES lygmens veiksmų nauda (subsidiarumo principas)? 

Dirbtinio intelekto diegimo Europoje skatinimas reiškia, kad reikia atverti ES bendrąją rinką tiems ekonominės veiklos vykdytojams, kurie nori plėtoti arba diegti dirbtinį intelektą savo įmonėse.

Būtina sumažinti teisinį netikrumą ir užkirsti kelią susiskaidymui, kuris gali atsirasti, jeigu valstybės narės pačios pradės skirtingai pritaikyti nacionalines taisykles.

Atlikus konservatyvų įvertinimą nustatyta, kad ES lygmeniu įgyvendinami su atsakomybe už dirbtinį intelektą susiję veiksmai turėtų teigiamą poveikį, dėl kurio atitinkamos tarpvalstybinės prekybos produkcijos vertė padidėtų 5–7 proc., palyginti su atskaitos scenarijumi.

B. Sprendimai

Kokių yra galimybių pasiekti šiuos tikslus? Ar viena iš galimybių pasirinkta kaip tinkamiausia? Jei ne, kodėl?

1 politikos galimybė. trys priemonės, kuriomis siekiama palengvinti nukentėjusiųjų prievolę įrodyti savo pretenzijas dėl atsakomybės:

a) suderinimas, kaip pagal Dirbtinio intelekto akte nustatytas gaminių saugos taisykles užregistruota arba dokumentuota informacija gali būti atskleidžiama teismo proceso metu, kad nukentėjusysis galėtų nustatyti ir įrodyti, dėl kurio veiksmo ar neveikimo buvo patirta žala;

b) jeigu nukentėjusysis įrodo, kad atsakingas asmuo nesilaikė Dirbtinio intelekto akte nustatytų saugos reikalavimų, kuriais siekiama užkirsti kelią žalai, teismai gali preziumuoti, kad dėl tokio nesilaikymo buvo padaryta žala. Potencialiai atsakingam asmeniui būtų suteikiama galimybė nuginčyti tokią prezumpciją, pavyzdžiui, įrodant, kad žala buvo padaryta dėl kitos priežasties;

c) jeigu vienintelis būdas nukentėjusiajam, siekiančiam įrodyti savo pretenzijas dėl atsakomybės, yra parodyti, kas įvyko dirbtinio intelekto sistemoje, tokia nukentėjusiajam tenkanti našta būtų sumažinta. Potencialiai atsakingam asmeniui būtų suteikiama galimybė įrodyti, kad jis neveikė aplaidžiai.

2 politikos galimybė. 1 politikos galimybės priemonės + atsakomybės be kaltės tvarkos, taikomos dirbtinio intelekto naudojimo atvejais, kuriems būdingas tam tikras rizikos profilis, suderinimas. Atsakomybė be kaltės reiškia, kad asmuo, kuris sukelia riziką visuomenei (dažnai dėl didelės vertės teisinių interesų, kaip antai gyvybės, sveikatos, turto) ir gauna iš to naudos, tampa atsakingas, jeigu tokia rizika pasitvirtina, pavyzdžiui, automobilio savininko atsakomybės atveju. Tokiais atvejais nukentėjusysis turi tik įrodyti, kad patirta žala atsirado dėl atsakingo asmens rizikos srities. Ši priemonė gali būti derinama su privalomuoju draudimu.

3 politikos galimybė. Etapinis požiūris (tinkamiausia politikos galimybė), apimantis

– pirmąjį etapą: 1 politikos galimybės priemones ir

– antrąjį etapą: peržiūros mechanizmą, kuriuo siekiama iš naujo įvertinti, ar reikia suderinti atsakomybę be kaltės už dirbtinio intelekto naudojimo atvejus, kuriems būdingas tam tikras rizikos profilis (galbūt kartu su privalomuoju draudimu).

Kokios yra įvairių suinteresuotųjų subjektų nuomonės? Kas kuriai galimybei pritaria?

Apskritai dauguma suinteresuotųjų šalių pritarė nustatytoms problemoms ir veiksmams ES lygmeniu.

Dauguma ES piliečių, vartotojų organizacijų ir akademinių institucijų patvirtino, kad ES turi imtis veiksmų, kad nukentėjusiesiems būtų lengviau vykdyti prievolę įrodyti. Įmonės, nors jos ir pripažino neigiamą netikrumo, susijusio su atsakomybės taisyklių taikymu, poveikį, buvo atsargesnės ir prašė imtis tikslinių intervencinių priemonių, kad būtų išvengta inovacijų ribojimo.

Panaši padėtis buvo ir politikos galimybių atveju. ES piliečiai, vartotojų organizacijos ir akademinės institucijos tvirtai pritarė, kad turi būti taikomos bent su prievole įrodyti susijusios priemonės. Šios suinteresuotosios šalys taip pat pasisakė už griežčiausią priemonę, kurią taikant būtų suderinta atsakomybė be kaltės ir privalomasis draudimas.

Įmonių nuomonės buvo įvairesnės ir iš dalies priklausė nuo jų dydžio. Buvo manoma, kad atsakomybė be kaltės yra neproporcinga. Daugiau buvo pritariama tam, kad prievolė įrodyti turėtų būti palengvinta, ypač MVĮ nuomone. Tačiau įmonės įspėjo netaikyti visiško prievolės įrodyti perkėlimo.

C. Tinkamiausios galimybės poveikis

Kokie būtų tinkamiausios galimybės (jei jų nėra – pagrindinių galimybių) pranašumai? 

Pasirinkus tinkamiausią politikos galimybę būtų užtikrinta, kad dėl dirbtiniu intelektu grindžiamų produktų ir paslaugų nukentėję asmenys (fiziniai asmenys, įmonės ir kiti viešieji arba privatūs subjektai) būtų apsaugoti ne mažiau nei nukentėjusieji dėl tradicinių technologijų. Tai padidintų pasitikėjimą dirbtiniu intelektu ir paskatintų jo naudojimą.

Be to, šia iniciatyva būtų sumažintas teisinis netikrumas ir išvengta susiskaidymo, taip padedant bendrovėms ir, visų pirma, MVĮ, norinčioms išnaudoti visą ES bendrosios rinkos potencialą diegiant dirbtiniu intelektu grindžiamus produktus ir paslaugas tarpvalstybiniu mastu.

Šia iniciatyva taip pat būtų sukurtos geresnės sąlygos draudikams apdrausti su dirbtiniu intelektu susijusią veiklą, o tai labai svarbu visų pirma MVĮ, kad jos galėtų valdyti riziką.

Kalbant apie naudą aplinkai, tikimasi, kad ši iniciatyva padės užtikrinti efektyvumą ir prisidėti prie inovacijų aplinką tausojančių technologijų srityse.

Didžiosios dalies pažangiausių produktų ir paslaugų, kuriuos siekiama skatinti šia iniciatyva, dar nėra rinkoje. Siūlomos priemonės numatomos iš anksto, nes jas taikant teisinė sistema bus pritaikyta prie konkrečių su dirbtiniu intelektu susijusių poreikių ir iššūkių, siekiant sukurti pasitikėjimu ir teisiniu tikrumu grindžiamą ekosistemą.

Dėl šio ateities perspektyvomis grindžiamo politikos pobūdžio nėra pakankamai duomenų, kad būtų galima kiekybiškai įvertinti tinkamiausios politikos galimybės poveikį. Todėl šis poveikis iš esmės buvo įvertintas kokybiškai, atsižvelgiant į visus turimus duomenis, ekspertų vertinimus ir suinteresuotųjų šalių indėlį. Remiantis pagrįstomis prielaidomis, buvo taikomi tam tikri kiekybinio nustatymo metodai.

Būtent apskaičiuota, kad pasirinkus tinkamiausią politikos galimybę 2025 m. 27 ES valstybėse narėse dirbtinio intelekto rinkos vertė padidėtų nuo maždaug 500 mln. EUR iki maždaug 1,1 mlrd. EUR. Be to, atlikus automatinių dulkių siurblių rinkos duomenimis grindžiamą mikroekonominę analizę nustatyta, kad dėl šios iniciatyvos bendra vien šios kategorijos produktų sukuriama nauda 27 ES valstybėse narėse padidėtų 30,11–53,74 mln. EUR.

Kokios būtų tinkamiausios galimybės (jei jos nėra – pagrindinių galimybių) įgyvendinimo išlaidos? 

Pasirinkus tinkamiausią politikos galimybę bus išvengta atsakomybės spragų, atsirandančių dėl specifinių dirbtinio intelekto savybių. Taip būtų užtikrinta, kad tais atvejais, kai dėl konkrečių dirbtinio intelekto savybių nukentėjusysis negali įrodyti būtinų faktų, dėl sukeltos žalos patirtas išlaidas padengtų už jos sukėlimą atsakingas asmuo, o ne nukentėjusysis.

Tai atitinka vieną iš pagrindinių atsakomybės teisės tikslų, t. y. siekį užtikrinti, kad asmuo, neteisėtai padaręs žalą kitam asmeniui, atlygintų tokią nukentėjusiojo patirtą žalą. Be to, Komisijos politikos tikslas yra užtikrinti, kad nukentėjusiųjų dėl žalos, padarytos naudojant dirbtinio intelekto sistemas, apsaugos lygis būtų toks pat kaip ir nukentėjusiųjų dėl tradicinių technologijų padarytos žalos. Taip užtikrinamas veiksmingesnis išlaidų priskyrimas asmeniui, kuris faktiškai padarė žalą, ir turėjo daugiausia galimybių užkirsti jai kelią.

Labai tikėtina, kad potencialiai atsakingi asmenys (visų pirma dirbtinio intelekto rinkoje veikiančios įmonės) bus apdrausti. Taikant draudimo sprendimus galima paskirstyti atsakomybės naštą visai apdraustojo bendruomenei ir taip apriboti atsakingų asmenų išlaidas iki metinių draudimo įmokų. Taigi apdraustųjų atsakingų asmenų patiriamos žalos atlyginimo nukentėjusiajam išlaidos būtų vertinamos tik kaip nedidelis jų mokamų draudimo įmokų padidėjimas.

Atlikti labai patikimą ir tikslų kiekybinį išlaidų įvertinimą nebuvo galima, nes didžiosios dalies šia iniciatyva skatinamų pažangiausių produktų ir paslaugų dar nėra rinkoje. Remiantis turimais duomenimis, ekspertų analize ir pagrįstomis prielaidomis apskaičiuota, kad dėl tinkamiausios politikos galimybės bendra kasmet ES mokamų bendrosios civilinės atsakomybės draudimo įmokų suma gali padidėti 5,35 mln. EUR ir siekti 16,1 mln. EUR.

Koks bus poveikis MVĮ ir konkurencingumui?

Kadangi šia iniciatyva būtų pagerintos dirbtiniu intelektu grindžiamų produktų ir paslaugų veikimo vidaus rinkoje sąlygos, ji turėtų teigiamą poveikį Europos dirbtinio intelekto rinkoje veikiančių bendrovių konkurencingumui. Šios bendrovės taptų konkurencingesnės pasauliniu mastu, o tai sustiprintų ES padėtį pasaulinėse dirbtinio intelekto lenktynėse, palyginti su jos konkurentais (visų pirma JAV ir Kinija). Kadangi dirbtinis intelektas yra kompleksinė didelio poveikio technologija, ši nauda būtų juntama ne tik tam tikruose konkrečiuose sektoriuose, bet, nors ir skirtingu mastu, visuose sektoriuose, kuriuose kuriamas arba naudojamas dirbtinis intelektas.

Mažesnis teisinis netikrumas ir mažesnis susiskaidymas iš visų suinteresuotųjų šalių būtų kur kas naudingesnis MVĮ, nes pagal šiuo metu galiojančias atsakomybės taisykles šios problemos joms daro didesnį poveikį. Šia iniciatyva būtų pagerintos sąlygos, kuriomis visų pirma galės veikti MVĮ, norinčios diegti dirbtiniu intelektu grindžiamus produktus arba paslaugas kitose valstybėse narėse. Tai labai svarbu, nes ES dirbtinio intelekto rinkos raidą didžiąja dalimi skatina dirbtinio intelekto technologijas kuriančios, diegiančios arba naudojančios MVĮ.

Ši iniciatyva būtų naudinga ir MVĮ, nukentėjusioms dėl dirbtinio intelekto padarytos žalos, nes reikalaudamos atlyginti žalą jos galėtų vykdyti sušvelnintą prievolę įrodyti.

Ar tai turės didelį poveikį nacionaliniams biudžetams ir administravimo subjektams? 

Didelio poveikio nacionaliniams biudžetams ir administravimo subjektams nenumatoma.

Numatytos priemonės, kuriomis palengvinama nukentėjusiųjų prievolė įrodyti, galėtų būti be trikdžių integruotos į šiuo metu galiojančias valstybių narių procedūrinės ir civilinės atsakomybės sistemas.

Valstybės narės turės teikti ataskaitas apie šios iniciatyvos įgyvendinimą ir tam tikrą informaciją, kad Komisija galėtų atlikti tikslinę peržiūrą. Tačiau šie ataskaitų teikimo reikalavimai bus taikomi tik informacijai, kuri prieinama esamose valstybių narių duomenų bazėse, ir informacijai, teikiamai pagal kitas teisines priemones (pavyzdžiui, Dirbtinio intelekto aktą arba Motorinių transporto priemonių draudimo direktyvą), taip pasiekiant sinergiją ir užtikrinant būsimų politikos priemonių įvairiose politikos srityse nuoseklumą.

Ar bus dar koks nors didelis poveikis? 

Pagrindinės teisės. Šia iniciatyva bus padedama remti veiksmingą privatų pagrindinių teisių užtikrinimą ir išsaugoma teisė į veiksmingą teisinę gynybą tais atvejais, kai patvirtinama, kad pagrindinėms teisėms kyla rizika, susijusi su dirbtiniu intelektu.

Tarptautinis aspektas. Laikydamasi subalansuoto požiūrio į atsakomybę už dirbtinio intelekto padarytą žalą, ES turi galimybę nustatyti pasaulinį lyginamąjį standartą ir skatinti, kad jos požiūris būtų taikomas kaip visuotinis sprendimas, kuris galiausiai užtikrintų Europoje kuriamo dirbtinio intelekto konkurencinį pranašumą.

Proporcingumo principas 

Tinkamiausia galimybė parengta taip, kad būtų sudarytos sąlygos plėtoti ir naudoti dirbtinį intelektą, kartu siekiant pagrindinio tikslo – skatinti dirbtinio intelekto diegimą ES.

Tačiau taikant šią galimybę bus neviršijama tai, kas būtina. Pirma, ES intervencinė priemonė yra tikslinga, nes ja bus tik palengvinama nukentėjusiųjų prievolė įrodyti. Ja bus suderinami tik tie atsakomybės elementai, dėl kurių kyla problemų dirbtinio intelekto srityje, o kiti elementai, kaip antai kaltės ir priežastinio ryšio nustatymas, toliau bus reglamentuojami galiojančiais nacionalinės teisės aktais.

Antra, pasirinkus tinkamiausią galimybę, poreikio suderinti atsakomybę be kaltės vertinimas bus atidėtas vėlesniam etapui, kai bus galima surinkti daugiau informacijos apie dirbtinį intelektą ir jo naudojimą (žr. toliau).

Trečia, pasirinkus tinkamiausią galimybę bus laikomasi minimalaus suderinimo principo. Nors taikant minimalų suderinimą nesudaromos visiškai vienodos sąlygos, juo užtikrinama, kad naujas taisykles būtų galima be trikdžių integruoti į kiekvienoje valstybėje narėje galiojančias teisines civilinės atsakomybės sistemas.

Todėl valstybės narės galės į savo nacionalinę teisę integruoti pagal tinkamiausią galimybę numatytas tikslines ES intervencines priemones, šia iniciatyva visoje ES bus padidintas teisinis tikrumas, išvengta tolesnio teisinio susiskaidymo ir užtikrinama veiksminga nukentėjusiųjų apsauga, kuri prilygs apsaugai nuo kitų rūšių žalos.

D. Tolesni veiksmai

Kada politika bus persvarstoma?

Tinkamiausia politikos galimybė grindžiama etapiniu požiūriu: pirmiausia bus nustatytos priemonės, kuriomis būtų palengvinta nukentėjusiojo prievolė įrodyti, o vėliau, po penkerių metų, padėtis bus įvertinta remiantis peržiūros nuostata. Taikydama tokį procesą Komisija, atsižvelgdama į technologijos raidą ir jos naudojimą, galės įvertinti, ar, be priemonių, kuriomis palengvinama prievolė įrodyti, reikės suderinti ir atsakomybę be kaltės bei privalomąjį draudimą.