Összefoglaló

A mesterséges intelligenciára vonatkozó szabályozási keret hatásvizsgálata

A. A fellépés szükségessége

Mi a probléma lényege, és miért jelent problémát uniós szinten?

A mesterséges intelligencia (MI) kialakulóban lévő, általános célú technológia: a számítógépes programozási technikák rendkívül hatékony csoportja. Az MI-rendszerek elterjedése komoly lehetőségeket rejt magában a társadalmi előnyök, a gazdasági növekedés, valamint az uniós innováció és a globális versenyképesség fokozása szempontjából. Az MI-rendszerek használata azonban bizonyos esetekben problémákat okozhat. Egyes MI-rendszerek sajátos jellemzői új kockázatokhoz vezethetnek (1) a biztonsággal és védelemmel, valamint (2) az alapvető jogokkal kapcsolatban, és fokozhatják a meglévő kockázatok valószínűségét vagy intenzitását. Az MI-rendszerek emellett (3) megnehezítik a végrehajtó hatóságok számára a meglévő szabályoknak való megfelelés ellenőrzését és az ilyen szabályok érvényre juttatását. Ezen problémák következtében pedig (4) a vállalatok jogbizonytalanságot tapasztalnak, (5) a bizalom hiánya miatt a vállalkozások és a polgárok potenciálisan lassabban kezdik el alkalmazni az MI-technológiákat, továbbá (6) a nemzeti hatóságok szabályozási választ adnak a lehetséges externáliák enyhítése érdekében, és ezzel megteremtik a belső piac széttöredezésének kockázatát.

Mit kellene elérni?

A szabályozási keret célja e problémák kezelése az egységes piac megfelelő működésének biztosítása érdekében azáltal, hogy megteremti a megbízható mesterséges intelligencia Unión belüli fejlesztéséhez és használatához szükséges feltételeket. A konkrét célkitűzések a következők: 1) annak biztosítása, hogy a forgalomba hozott és használt MI-rendszerek biztonságosak legyenek, és tiszteletben tartsák az alapvető jogokra és az uniós értékekre vonatkozó hatályos jogszabályokat; 2) a jogbiztonság biztosítása a mesterséges intelligenciába történő beruházások és innováció elősegítése érdekében; 3) az MI-rendszerek tekintetében az alapvető jogokra és biztonsági követelményekre vonatkozó hatályos jogszabályok irányításának és hatékony érvényesítésének javítása; és 4) a jogszerű, biztonságos és megbízható MI-rendszerek vonatkozásában az egységes piac kialakításának elősegítése és a piac széttöredezettségének megelőzése.

Milyen többletértéket képvisel az uniós szintű fellépés (szubszidiaritás)? 

Az MI-alkalmazások által gyakran használt nagy méretű adatkészletek határokon átnyúló jellege azt jelenti, hogy a kezdeményezés célkitűzéseit a tagállamok nem tudják egyedül hatékonyan megvalósítani. A megbízható mesterséges intelligenciára vonatkozó európai szabályozási keret célja, hogy harmonizált szabályokat állapítson meg az MI-technológiát magukban foglaló termékek és szolgáltatások vagy az önálló MI-alkalmazások Unióban történő fejlesztésére, forgalomba hozatalára és használatára vonatkozóan. Célja egyenlő versenyfeltételek biztosítása és valamennyi európai polgár védelme, és eközben Európa versenyképességének és ipari bázisának megerősítése a mesterséges intelligencia területén. A mesterséges intelligenciával kapcsolatos uniós fellépés fel fogja lendíteni a belső piacot, és jelentős potenciállal rendelkezik ahhoz, hogy globális szinten versenyelőnyt biztosítson az európai ipar számára olyan méretgazdaságossági előnyök révén, amelyeket az egyes tagállamok egyedül nem tudnak elérni.

B. Megoldások

Milyen alternatívák kínálkoznak a célok elérésére? Van-e előnyben részesített alternatíva? Amennyiben nincs, miért nincs?

Az alábbi alternatívák kerültek megfontolásra: 1. alternatíva: önkéntes címkézési rendszert létrehozó uniós jogalkotási eszköz; 2. alternatíva: ágazati, „ad hoc” megközelítés; 3. alternatíva: horizontális uniós jogalkotási eszköz, amely kötelező követelményeket állapít meg a nagy kockázatú MI-alkalmazások tekintetében; 3+. alternatíva: ugyanaz, mint a 3. alternatíva, kiegészítve a nem nagy kockázatú MI-alkalmazásokra vonatkozó önkéntes magatartási kódexekkel; 4. alternatíva: horizontális uniós jogalkotási eszköz, amely valamennyi MI-alkalmazás vonatkozásában kötelező követelményeket állapít meg. Az előnyben részesített alternatíva a 3+. alternatíva, mivel ez arányos biztosítékokat nyújt a mesterséges intelligencia által jelentett kockázatokkal szemben, ugyanakkor minimálisra csökkenti az adminisztratív és megfelelési költségeket. Az MI-alkalmazásokkal kapcsolatos felelősség kérdésével külön jövőbeli szabályok foglalkoznak majd, így azokra ezek az alternatívák nem terjednek ki.

Mi az egyes érdekelt felek álláspontja? Ki melyik alternatívát támogatja?

A vállalkozások, a hatóságok, a tudományos szakemberek és a nem kormányzati szervezetek mind egyetértenek abban, hogy vannak joghézagok vagy új jogszabályokra van szükség, bár a vállalkozások többsége kisebb vállalkozás. Az ipar képviselői és a hatóságok egyetértenek abban, hogy a kötelező követelményeket a nagy kockázatú MI-alkalmazásokra kellene korlátozni. A polgárok és a civil társadalom nagyobb valószínűséggel nem ért egyet azzal, hogy a kötelező követelmények a nagy kockázatú alkalmazásokra korlátozódjanak.

C. Az előnyben részesített alternatíva hatásai

Melyek az előnyben részesített alternatíva (ha nincs ilyen, akkor a főbb alternatívák) előnyei?

Az előnyben részesített alternatíva csökkenteni fogja a polgárok biztonságával és alapvető jogaival kapcsolatos kockázatokat. A mesterséges intelligenciával foglalkozó szolgáltatók számára jogbiztonságot fog teremteni, és biztosítja, hogy a mesterséges intelligenciához kapcsolódó szolgáltatások és termékek határokon átnyúló nyújtása ne ütközzön akadályokba. A mesterséges intelligenciát használó vállalatok ügyfelei körében elő fogja mozdítani a bizalmat. A nemzeti közigazgatások szempontjából növelni fogja a mesterséges intelligencia használatába vetett közbizalmat, és erősíteni fogja a végrehajtási mechanizmusokat (európai koordinációs mechanizmus bevezetésével, megfelelő kapacitások biztosításával, valamint az MI-rendszerek ellenőrzésének elősegítésével a dokumentációra, a nyomonkövethetőségre és az átláthatóságra vonatkozó új követelmények mellett).

Milyen költségekkel jár az előnyben részesített alternatíva (ha nincs ilyen, akkor milyen költségekkel járnak a főbb alternatívák)?

Azoknak a vállalkozásoknak vagy hatóságoknak, amelyek olyan MI-alkalmazásokat fejlesztenek ki vagy használnak, amelyek nagy kockázatot jelentenek a polgárok biztonságára vagy alapvető jogaira nézve, konkrét horizontális követelményeknek és kötelezettségeknek kellene megfelelniük, amelyek harmonizált műszaki szabványok révén kerülnek bevezetésre. A megfelelés összköltsége a becslések szerint 2025-re 100–500 millió EUR, ami a nagy kockázatú mesterséges intelligenciába való beruházások (a becslések szerint az összes MI-alkalmazás 5–15 %-a tartozik ide) 4–5 %-ának felel meg. Az ellenőrzési költségek a nagy kockázatú mesterséges intelligenciába való beruházások további 2–5 %-át tehetik ki. A nem nagy kockázatúnak minősülő MI-alkalmazásokat kifejlesztő vagy használó vállalkozásoknak vagy hatóságoknak semmilyen költséget nem kellene viselniük. A megfelelő követelmények alkalmazása és a mesterséges intelligencia megbízhatóságának biztosítása érdekében azonban dönthetnek úgy, hogy önkéntes magatartási kódexekhez csatlakoznak. Ezekben az esetekben a költségek legfeljebb olyan magasak lehetnek, mint a nagy kockázatú alkalmazások esetében, de nagy valószínűséggel inkább alacsonyabbak lennének.

Milyen hatást gyakorol a fellépés a kkv-kra és a versenyképességre?

A kkv-k nagyobb mértékben profitálnak majd a mesterséges intelligenciába vetett nagyobb általános bizalomból, mint a nagyvállalatok, amelyek a márkájuk arculatára is támaszkodhatnak. A nagy kockázatúnak minősített alkalmazásokat fejlesztő kkv-knak hasonló költségeket kellene viselniük, mint a nagyvállalatoknak. A digitális technológiák nagy méretezhetősége miatt a kis- és középvállalkozások kis méretük ellenére is potenciálisan több millió egyént érhetnek el. Így a nagy kockázatú alkalmazások esetében a mesterséges intelligenciát biztosító kkv-nak a szabályozási keret hatálya alóli kizárása súlyosan veszélyeztetheti a bizalom növelésére irányuló célkitűzést. A keret azonban konkrét intézkedéseket – többek között szabályozási tesztkörnyezeteket vagy a digitális innovációs központokon keresztül nyújtott támogatást – irányoz elő, hogy támogassa a kkv-kat az új szabályoknak való megfelelésben, figyelembe véve sajátos szükségleteiket.

Jelentős lesz-e a tagállamok költségvetésére és közigazgatására gyakorolt hatás? 

A tagállamoknak ki kellene jelölniük a jogszabályi követelmények végrehajtásáért felelős felügyeleti hatóságokat. Ezek felügyeleti funkciója a meglévő megállapodásokon alapulhatna, például a megfelelőségértékelő szervezetek vagy a piacfelügyelet vonatkozásában, de megfelelő technológiai szakértelmet és erőforrást igényelne. Az egyes tagállamokban már meglévő struktúráktól függően ez tagállamonként 1–25 teljes munkaidős egyenértéket jelenthet.

Lesznek-e egyéb jelentős hatások? 

Az előnyben részesített alternatíva jelentősen csökkentené a polgárok alapvető jogaival és a tágabb értelemben vett uniós értékekkel kapcsolatos kockázatokat, és növelné az MI-technológiát beépítő egyes termékek és szolgáltatások vagy az önálló MI-alkalmazások biztonságát.

Arányosság? 

A javaslat arányos és szükséges a célkitűzések eléréséhez, mivel kockázatalapú megközelítést követ, és csak akkor jelent szabályozási terheket, ha az MI-rendszerek valószínűleg nagy kockázatot jelentenek az alapvető jogokra vagy a biztonságra nézve. Amennyiben nem ez a helyzet, csak minimális átláthatósági kötelezettségeket ír elő, különösen az MI-rendszerek emberekkel való érintkezés során történő használatának, illetve a nem jogszerű célokra való felhasználás esetében a deepfake használatának megjelölésére vonatkozó tájékoztatás tekintetében. A harmonizált szabványok, valamint a támogató iránymutatási és megfelelési eszközök célja, hogy segítsék a szolgáltatókat és a felhasználókat a követelményeknek való megfelelésben és a költségeik minimalizálásában.

D. További lépések

Mikor kerül sor a szakpolitikai fellépés felülvizsgálatára?

A Bizottság öt évvel a keret hatálybalépésének kezdő időpontját követően jelentést tesz közzé, amelyben értékeli és felülvizsgálja a keretet.