Tiivistelmä vaikutustenarvioinnista

Vaikutustenarviointi tekoälyn sääntelykehyksestä

A. Toimenpiteen tarve

Mikä on ongelma ja miksi se on ongelma EU:n tasolla?

Tekoäly on kovaa vauhtia kehittyvä yleiskäyttöinen teknologia ja erilaisten ohjelmointitekniikoiden erittäin suorituskykyinen kokonaisuus. Tekoälyjärjestelmillä on hyvät mahdollisuudet tuoda yhteiskunnallisia hyötyjä, luoda talouskasvua, lisätä innovointia EU:ssa ja parantaa EU:n globaalia kilpailukykyä. Joissakin tapauksissa tekoälyjärjestelmien käyttö voi kuitenkin aiheuttaa ongelmia. Tiettyjen tekoälyjärjestelmien erityispiirteet voivat aiheuttaa uusia riskejä, jotka liittyvät 1) turvallisuuteen ja 2) perusoikeuksiin, ja lisätä olemassa olevien riskien todennäköisyyttä tai vakavuutta. Lisäksi 3) lainvalvontaviranomaisten on vaikea varmistua tekoälyjärjestelmien sääntöjenmukaisuudesta ja valvoa sääntöjen noudattamista. Nämä ongelmat puolestaan johtavat 4) oikeudelliseen epävarmuuteen yritysten kannalta, 5) tekoälyteknologian käyttöönoton mahdolliseen hidastumiseen yritysten ja kansalaisten luottamuksen puutteen vuoksi sekä 6) mahdollisten ulkoisvaikutusten lieventämiseen tähtääviin kansallisten viranomaisten sääntelytoimiin, jotka saattavat aiheuttaa sisämarkkinoiden pirstaloitumista.

Mitä on tarkoitus saada aikaan?

Sääntelykehyksellä pyritään puuttumaan edellä mainittuihin ongelmiin sisämarkkinoiden moitteettoman toiminnan varmistamiseksi luomalla edellytykset luotettavan tekoälyn kehittämiselle ja käytölle unionissa. Erityistavoitteena on 1) varmistaa, että markkinoille saatetut ja käytössä olevat tekoälyjärjestelmät ovat turvallisia ja noudattavat perusoikeuksia ja unionin arvoja koskevaa lainsäädäntöä, 2) taata oikeusvarmuus tekoälyyn liittyvien investointien ja innovaatioiden helpottamiseksi, 3) tehostaa tekoälyjärjestelmiin sovellettavan perusoikeuksia ja turvallisuusvaatimuksia koskevan lainsäädännön soveltamista ja sääntöjen noudattamisen valvontaa ja 4) edesauttaa laillisten, turvallisten ja luotettavien tekoälyjärjestelmien sisämarkkinoiden kehitystä ja ehkäistä markkinoiden pirstoutumista.

Mitä lisäarvoa saadaan toimenpiteen toteuttamisesta EU:n tasolla (toissijaisuusperiaate)? 

Tekoälysovellukset tukeutuvat usein mittaviin datavarantoihin ja -aineistoihin, jotka ovat luonteeltaan rajat ylittäviä. Näin ollen jäsenvaltiot eivät yksinään voi saavuttaa aloitteen tavoitteita tuloksellisella tavalla. Luotettavan tekoälyn eurooppalaisella sääntelykehyksellä pyritään asettamaan yhdenmukaiset säännöt tekoälyteknologiaa sisältävien tuotteiden tai palvelujen ja yksittäisten tekoälysovellusten kehittämiselle, markkinoille saattamiselle ja käytölle EU:ssa. Tarkoituksena on varmistaa tasapuoliset toimintaedellytykset ja suojella eurooppalaisia sekä vahvistaa Euroopan kilpailukykyä ja teollista perustaa tekoälyn alalla. EU:n aktiivisuus tekoälyasioissa edistää sisämarkkinoita ja voi merkittävällä tavalla antaa Euroopan teollisuudelle maailmanlaajuista kilpailuetua, koska sillä on mittakaavaetuja, joita pelkästään yksittäiset jäsenvaltiot eivät voi saavuttaa.

B. Ratkaisut

Millä vaihtoehdoilla tavoitteet saavutettaisiin? Onko jokin vaihtoehto arvioitu parhaaksi? Jos ei, miksi ei?

Seuraavia vaihtoehtoja on harkittu: vaihtoehto 1: EU-säädös, jolla perustetaan vapaaehtoinen merkintäjärjestelmä, vaihtoehto 2: ala- ja tapauskohtainen lähestymistapa, vaihtoehto 3: horisontaalinen EU-säädös, jolla asetetaan pakollisia vaatimuksia suuririskisille tekoälysovelluksille, vaihtoehto 3+: kuten vaihtoehto 3, mutta lisäksi vapaaehtoisia käytännesääntöjä alhaisemman riskitason tekoälysovelluksille, ja vaihtoehto 4: horisontaalinen EU-säädös, jolla asetetaan pakollisia vaatimuksia kaikille tekoälysovelluksille. Parhaaksi on arvioitu vaihtoehto 3+, koska se tarjoaa oikeasuhteisen suojan tekoälyn riskejä vastaan ja pitää samalla hallinnolliset ja vaatimusten noudattamisesta aiheutuvat kustannukset minimissään. Tekoälyn vastuukysymyksiin puututaan tulevaisuudessa erillisillä säännöillä, joten niitä ei ole näissä vaihtoehdoissa tarkasteltu.

Mitkä ovat sidosryhmien näkemykset? Mitkä toimijat kannattavat mitäkin vaihtoehtoa?

Yritykset, viranomaiset, tutkijat ja kansalaisjärjestöt ovat kaikki yhtä mieltä siitä, että lainsäädännössä on aukkoja tai että tarvitaan uutta lainsäädäntöä. Yrityksistä enemmistö on tätä mieltä, mutta mielipiteissä on enemmän hajontaa kuin muilla ryhmillä. Teollisuus ja viranomaiset ovat yhtä mieltä pakollisten vaatimusten rajoittamisesta suuririskisiin tekoälysovelluksiin. Kansalaiset ja kansalaisyhteiskunta ovat herkempiä vastustamaan pakollisten vaatimusten rajoittamista suuririskisiin sovelluksiin.

C. Parhaaksi arvioidun vaihtoehdon vaikutukset

Mitkä ovat parhaaksi arvioidun vaihtoehdon hyödyt (jos parhaaksi arvioitua vaihtoehtoa ei ole, päävaihtoehtojen hyödyt)? 

Parhaaksi arvioidulla vaihtoehdolla pienennetään kansalaisten näkökulmasta heidän turvallisuuteensa ja perusoikeuksiinsa kohdistuvia riskejä. Tekoälyn tarjoajille se luo oikeusvarmuutta ja varmistaa, että tekoälypalvelujen ja -tuotteiden tarjonnalle rajojen yli ei pääse syntymään esteitä. Tekoälyä käyttävien yritysten kannalta se edistää asiakkaiden luottamusta tekoälyä kohtaan. Kansallisten hallintojen näkökulmasta se edistää kansalaisten luottamusta tekoälyä kohtaan ja vahvistaa täytäntöönpanomekanismeja (ottamalla käyttöön eurooppalaisen koordinointimekanismin, säätämällä tarvittavista valmiuksista ja helpottamalla tekoälyjärjestelmien auditointeja uusilla dokumentointi-, jäljitettävyys- ja läpinäkyvyysvaatimuksilla).

Mitkä ovat parhaaksi arvioidun vaihtoehdon kustannukset (jos parhaaksi arvioitua vaihtoehtoa ei ole, päävaihtoehtojen kustannukset)? 

Yritysten tai viranomaisten, jotka kehittävät tai käyttävät kansalaisten turvallisuuden tai perusoikeuksien kannalta suuririskisiä tekoälysovelluksia, olisi noudatettava tiettyjä horisontaalisia vaatimuksia ja velvoitteita, jotka määritetään yhdenmukaistetuilla teknisillä standardeilla. Vaatimusten noudattamisesta aiheutuvien kokonaiskustannusten arvioidaan olevan 100–500 miljoonaa euroa vuoteen 2025 mennessä, mikä vastaa enimmillään 4–5:ttä prosenttia investoinneista suuririskiseen tekoälyyn (suuririskisten sovellusten arvioidaan muodostavan 5–15 prosenttia kaikista tekoälysovelluksista). Todentamiskustannukset voisivat olla tämän päälle 2–5 prosenttia investoinneista suuririskiseen tekoälyyn. Muita kuin suuririskisiä tekoälysovelluksia kehittäville tai käyttäville yrityksille tai viranomaisille ei tarvitsisi aiheutua lainkaan kustannuksia. Ne voisivat kuitenkin halutessaan noudattaa vapaaehtoisia käytännesääntöjä täyttääkseen tietyt vaatimukset, joilla ne osoittaisivat tekoälynsä luotettavuuden. Näissä tapauksissa kustannukset voisivat olla enimmillään samat kuin suuririskisten sovellusten kohdalla, mutta todennäköisesti kuitenkin alhaisemmat.

Mitkä ovat vaikutukset pk-yrityksiin ja kilpailukykyyn?

Pk-yritykset hyötyvät tekoälyä kohtaan tunnetun luottamustason yleisestä noususta enemmän kuin suuret yritykset, jotka voivat luottaa jo vakiintuneeseen maineeseensa. Suuririskisiksi luokiteltuja sovelluksia kehittävien pk-yritysten kustannukset olisivat samat kuin suurten yritysten. Digitaaliteknologian suuren skaalautuvuuden vuoksi pienillä ja keskisuurilla yrityksillä voisi kuitenkin olla valtava tavoittavuus pienestä koostaan huolimatta, ja ne voisivat vaikuttaa miljooniin ihmisiin. Näin ollen suuririskisten sovellusten tekoälyä tuottavien pk-yritysten jättäminen sääntelykehyksen ulkopuolelle voisi vakavasti haitata luottamuksen lisäämistä koskevaa tavoitetta. Kehykseen sisältyy kuitenkin erityistoimenpiteitä, kuten sääntelyn testausympäristöjä ja digitaali-innovointikeskittymien kautta annettavaa apua, joilla tuetaan pk-yrityksiä uusien sääntöjen noudattamisessa ottaen huomioon niiden erityistarpeet.

Kohdistuuko jäsenvaltioiden budjettiin ja julkishallintoon merkittäviä vaikutuksia? 

Jäsenvaltioiden olisi nimettävä valvontaviranomaiset, jotka vastaavat lainsäädännöllisten vaatimusten täytäntöönpanosta. Niiden valvontatehtävässä voitaisiin hyödyntää olemassa olevia järjestelyjä, esimerkiksi vaatimustenmukaisuuden arviointilaitosten tai markkinavalvonnan osalta, mutta tehtävän hoitaminen edellyttäisi kuitenkin riittävästi teknistä asiantuntemusta ja resursseja. Kussakin jäsenvaltiossa tämä voisi olemassa olevista rakenteista riippuen tarkoittaa henkilöresursseina 1–25 kokoaikavastaavaa.

Onko toimenpiteellä muita merkittäviä vaikutuksia? 

Parhaaksi arvioitu vaihtoehto vähentäisi merkittävästi kansalaisten perusoikeuksiin ja laajempiin unionin arvoihin kohdistuvia riskejä ja parantaisi tiettyjen tekoälyteknologiaa sisältävien tuotteiden ja palvelujen ja erillisten tekoälysovellusten turvallisuutta.

Oikeasuhteisuus? 

Ehdotus on oikeasuhteinen ja tarpeen tavoitteiden saavuttamiseksi, sillä siinä noudatetaan riskiperusteista lähestymistapaa ja edellytetään sääntelyä vain silloin, kun tekoälyjärjestelmät todennäköisesti aiheuttavat suuria riskejä perusoikeuksille tai turvallisuudelle. Muissa tapauksissa asetetaan vain läpinäkyvyyttä koskevia vähimmäisvelvoitteita, jotka koskevat erityisesti tietojen antamista tekoälyjärjestelmän käytöstä silloin, kun se on vuorovaikutuksessa ihmisten kanssa, tai kun on kyse deepfake-sisältöjen tuottamisesta muihin kuin lainvalvontatarkoituksiin tai muutoin perusteltuihin tarkoituksiin. Yhdenmukaistetuilla standardeilla, niitä koskevalla ohjeistuksella ja vaatimusten noudattamisen apuvälineillä pyritään auttamaan sovellusten tarjoajia ja käyttäjiä noudattamaan vaatimuksia ja minimoimaan niistä aiheutuvat kustannukset.

D. Seuranta

Milloin asiaa tarkastellaan uudelleen?

Komissio julkaisee arviointi- ja uudelleentarkasteluraportin viiden vuoden kuluttua kehyksen soveltamisen alkamisesta.