Valtioneuvoston kirjelmä eduskunnalle komission ehdotuksesta Euroopan parlamentin ja neuvoston asetukseksi tekoälyn harmonisoiduksi sääntelyksi (Artificial Intelligence Act)

VALTIONEUVOSTON KIRJELMÄ

Ehdotus Valtioneuvoston kanta

Komissio on 21.4.2021 antanut ehdotuksen Euroopan parlamentin ja neuvoston asetukseksi tekoälyä koskevista yhdenmukaistetuista säännöistä (tekoälysäädös) ja tiettyjen unionin säädösten muuttamisesta (KOM(2021) 206 lopullinen). Ehdotus on uutta sääntelyä. Asetusehdotus pohjautuu komission 19.2.2020 antamaan tiedonantoon Euroopan digitaalisesta tulevaisuudesta sekä tekoälyä koskevaan valkoiseen kirjaan (E 24/2020 vp).

Komissio ehdottaa oikeudellista kehystä eurooppalaisen lähestymistavan luomiseksi sekä yleisten etujen, erityisesti terveyden, turvallisuuden, perusoikeuksien ja -vapauksien korkean tason suojelun toteuttavan tekoälyn kehittämisen ja käyttöönoton edistämiseksi. Komission sääntelyehdotus on ensimmäinen laatuaan maailmassa ja se pyrkii edelläkävijänä viitoittamaan suuntaa globaalisti.

Yritysten ja talousalueiden välinen globaali kilpailutilanne vaatii, että EU:sta luodaan tekoälyn kehittämiselle ja soveltamiselle suotuisa toimintaympäristö, joka vahvistaa yritysten kansainvälistä kilpailukykyä ja kannustaa investointeihin. Euroopan teknologinen kilpailukyky perustuu digitaaliselle kehitykselle, innovaatioille, osaamiselle ja toimiville sisämarkkinoille.

Valtioneuvosto pitää kannatettavana, että asetuksella pyritään luomaan edellytykset luottamuksen ekosysteemille, joka edesauttaa tekoälyn vastuullista kehittämistä, markkinoille saattamista ja käyttöönottoa Euroopassa tarjoten eettisesti kestävän toimintakehyksen. Valtioneuvosto katsoo, että EU:n kilpailukyvyn vahvistamiseksi ja tavoitteiden saavuttamiseksi tarvitaan yhtenäisyyttä ja yhteistä arvopohjaista lähestymistapaa ja panostusta kansallisella sekä EU:n tasolla.

Valtioneuvosto tukee komission esittämiä tavoitteita sääntelykehykselle, joiden mukaan varmistetaan, että unionin markkinoille saatetut ja unionin markkinoilla käytetyt tekoälyjärjestelmät ovat turvallisia ja kunnioittavat voimassa olevia perusoikeuksia ja unionin arvoja koskevaa lainsäädäntöä. Valtioneuvosto kannattaa komission ihmiskeskeistä ja luottamusta korostavaa lähestymistapaa jossa eurooppalainen tekoäly perustuu vapauden, ihmisarvon ja yksityisyyden suojan arvoihin.

Valtioneuvosto toteaa, että tekoälyjärjestelmien käyttöön liittyy paljon perusoikeusliitännäisiä kysymyksiä ja huomioi, että oikein käytettynä tekoälyratkaisut voivat myös edistää perusoikeuksien toteutumista. Valtioneuvosto pitää tärkeänä, että jatkovalmistelussa ehdotuksen soveltamisalakysymyksiä arvioidaan huolellisesti perusoikeuksien toteutumisen kannalta.

Valtioneuvosto katsoo, että teknologian kehitykseen ja käyttöönottoon liittyviä perus- ja ihmisoikeuskysymyksiä, turvallisuusuhkia, taloudellisia ja toimitusketjujen riippuvuuksia sekä taustalla vaikuttavaa geopoliittista kontekstia tulee tarkastella kokonaisvaltaisesti. Jatkokäsittelyssä tulee huomioida myös kyberturvallisuus. Digitaalisten ratkaisujen, tekoälyn ja algoritmipohjaisen päätöksenteon tuen kehittämisessä on tärkeää kiinnittää huomiota yhdenvertaisuuteen, sukupuolten tasa-arvoon ja syrjimättömyyteen.

Valtioneuvosto huomioi, että selkeä sääntelykehys, oikeudellinen varmuus sekä tasapuolinen kilpailuympäristö auttavat lisäämään kuluttajien, julkisen sektorin ja yritysten luottamusta tekoälyyn ja siten nopeuttaa tekoälyn käyttöönottoa. Valtioneuvosto kannattaa tavoitteita, joiden mukaan varmistetaan sääntelyn oikeusvarmuus investointien ja innovaatioiden helpottamiseksi sekä helpotetaan laillisten, turvallisten ja luotettavien tekoälysovellusten sisämarkkinoiden kehittämistä.

Valtioneuvosto tukee komission pyrkimyksiä varmistaa nykyisten sisämarkkinasääntöjen tehokas toimeen- ja täytäntöönpano ja lähtökohtaisesti kannattaa markkinavalvonta-asetuksen (EU) 2019/1020 soveltamista myös tekoälyjärjestelmien valvonnassa markkinavalvontamenettelyjen yhdenmukaisuuden varmistamiseksi huomioiden, että jäsenvaltioille jätetään tarpeeksi liikkumavaraa kansallisten toimivaltaisten viranomaisten nimeämisessä ja markkinavalvonnan järjestämisessä käytännössä.

Valtioneuvosto katsoo, että mahdollisen uuden sääntelyn tulee olla soveltamisalaltaan selkeä ja noudattaa paremman sääntelyn periaatteita ja katsoo, että vaatimusten tulee olla oikeasuhtaisia eikä niiden tulisi muodostaa tarpeetonta hallinnollista tai taloudellista taakkaa. Tekoälyjärjestelmien tuottajille, maahantuojille, jakelijoille ja käyttäjille asetettavien velvoitteiden ja eri toimijoiden roolien ja niihin liittyvien vastuiden tulee olla selkeitä. Lisäksi on arvioitava, kuinka laajaa osaamista ja tietoa lainsäädännön sisällöstä eri toimijoilta voidaan edellyttää. Myös toimijoiden erikokoisuuteen sekä tosiasiallisiin mahdollisuuksiin täyttää asetetut velvoitteet tulee kiinnittää huomiota.

Valtioneuvosto katsoo, että julkisen sektorin erityisluonne tulee huomioida ja oikeus hyvään hallintoon tulee turvata viranomaisten osalta. Tulee myös huolehtia, ettei julkisen sektorin toimijoille synny tarpeetonta sääntelytaakkaa, koska julkisen sektorin toimintaan kohdistuu jo kansallista sääntelyä muun muassa hyvän hallinnon, läpinäkyvyyden ja tiedonhallinnan osalta. Valtioneuvosto katsoo, että julkisen hallinnon alaan kuuluvia tehtäviä, joissa käytetään korkean riskin tekoälyjärjestelmiä, koskevaa ehdotettua sääntelyä tulee selkeyttää ja tarkentaa. Valtioneuvosto toteaa, että asetusehdotuksen vaikutuksia julkisen hallinnon digitalisaatioon tulee tarkastella.

Valtioneuvosto huomioi, että asetusehdotuksen suhdetta muuhun unionin sääntelyyn, kuten yleiseen tietosuoja-asetukseen, markkinavalvontaa koskevaan sääntelyyn, yleiseen tuoteturvallisuusdirektiiviin, tuotevastuudirektiiviin sekä olemassa olevaan sektorikohtaiseen lainsäädäntöön esimerkiksi liikennesektorilla, tulee täsmentää neuvotteluissa. Valtioneuvosto katsoo, että eri säädösten ja säädösehdotusten keskinäisriippuvuuden vuoksi sääntelyä tulisi arvioida kokonaisuutena EU-lainsäädännön laadun, selkeyden ja toimivuuden kannalta sekä vahvistaa hallinnon alojen välistä viranomaiskoordinaatiota ja yhteistyötä. Jatkokäsittelyssä tulee myös tarkentaa ehdotusten taloudellisia vaikutuksia muun muassa virastoille aiheutuvien lisätehtävien suhteen.

Valtioneuvosto tukee tavoitetta lähestyä tekoälyn oikeudellisen kehyksen luomista riskiperustaisesti ja käyttötapauskohtaisesti, jotta varmistetaan ehdotuksen oikeasuhtaisuus kiinnittäen samalla huomiota riskiperustaisen ja käyttötapauskohtaisen lähestymistavan selkeyteen. Valtioneuvosto painottaa lisäksi mahdollisuutta hyödyntää itsesääntelyä.

Valtioneuvosto toteaa komission esityksen sisältävän kokonaan kiellettävät tekoälyjärjestelmät ja katsoo, että jatkovalmistelussa on syytä varmistaa, että kiellettyjen tekoälyjärjestelmien määrittely on selkeää, tarkkarajaista ja oikeasuhtaista.

Valtioneuvosto toteaa, että komissio esittää erottelua reaaliaikaisen ja jälkikäteen tapahtuva biometrisen tunnistamisen välillä. Valtioneuvosto voi hyväksyä erottelun mutta samalla tulee huolehtia siitä, että reaaliaikainen biometristen järjestelmien käyttö edellä mainituilla alueilla henkilöiden tunnistamisessa on mahdollista tietyin, tarkkarajaisin ehdoin suhteellisuusperiaate ja perus- ja ihmisoikeudet huomioon ottaen. Huomiota tulee kiinnittää käyttötapausten määrittelyn selkeyteen sekä oikeasuhtaisuuteen.

Valtioneuvosto kiinnittää huomiota siihen, että korkean riskin käyttötapauksiin kohdennettavan sääntelyn soveltamisalan tulee olla selkeä, oikeasuhtainen ja perusteltu. Valtioneuvosto huomioi, että korkean riskin käyttötarkoituksiin liittyvien avustavien ja valmistelevien tekoälyjärjestelmien kohdalla, jotka toimivat ihmiskäyttäjän harkinnan tukena, tulisi selkeyttää sitä millä tavalla ja millä laajuudella käytettynä tällaiset järjestelmät luetaan korkean riskin järjestelmäksi koskien esimerkiksi arviointia koulutuksessa. Valtioneuvosto pitää lisäksi tärkeänä sitä, että työntekijöiden ja työnhakijoiden oikeudet turvataan myös silloin kun päätöksenteossa hyödynnetään tekoälyä.

Valtioneuvosto pitää tärkeänä varmistaa oikeasuhtaisuus ja tarkkuus myös tekoälyjärjestelmien tiedonhallinnan ja tiedon laatua koskevien vaatimusten osalta. Valtioneuvosto katsoo, että ehdotuksessa edellytetty tekoälyjärjestelmien ihmisvalvonta kaipaa selkeyttämistä ja täsmentämistä. Valtioneuvosto huomioi asetusehdotuksen läpinäkyvyysvelvoitteen piiriin kuuluvat tekoälyjärjestelmien velvoitteet ja toteaa, että ehdotuksen vaikutuksia tulee arvioida tarkoin. Jatkokäsittelyssä tulee myös varmistaa, että korkean riskin tekoälyjärjestelmien rekisteröinti EU:n tietokantaan on tarkoituksenmukaista ja turvallista.

Valtioneuvosto katsoo, että velvoitteiden noudattamisesta ei tule syntyä liian korkeaa kynnystä tai liian pitkää hidastetta kehittämiselle ja markkinoille asettamiselle ja pitää tärkeänä, että asetusehdotus mahdollistaa tekoälyä koskevan tieteellisen tutkimustoiminnan sekä yritystoiminnan. Asetusehdotuksen vaikutuksia yritysten tutkimus-, kehittämis- ja innovaatiotoimintaan tulisi täsmentää.

Valtioneuvosto kiinnittää huomiota myös tekoälyteknologioiden luonteeseen ja siihen, että tekoälyteknologiat ovat joukko kehittyviä ohjelmistoja ja teknologioita, joille ei voida antaa yksiselitteistä määritelmää. Sääntelyn riittävän tarkkarajaisuuden varmistamiseksi tekoälyn määritelmää tulee tarkastella jatkokäsittelyssä ja selventää, sovelletaanko asetusta tietojärjestelmäkokonaisuuden tekoälyosaan vai tekoälyosan myötä koko tietojärjestelmäkokonaisuuteen. Uuden teknologian kehittyessä on varmistettava lainsäädännön ajantasaisuus ja teknologianeutraalius.

Valtioneuvosto katsoo, että hallinnollisia sanktioita koskevaa ehdotusta on arvioitava siinä valossa, että sääntelyn tulee täyttää yleiset tarkkuuden ja oikeasuhtaisuuden vaatimukset. Ehdotetun seuraamusjärjestelmän suhdetta muuhun lainsäädäntöön, mukaan lukien erityisesti EU:n yleiseen tietosuoja-asetukseen perustuvaan seuraamuksia koskevaan sääntelyyn, olisi arvioitava neuvottelujen aikana tarkemmin. Kansallisten viranomaisten osalta on syytä varmistaa riittävän sääntelyliikkumavaran säilyminen.

Valtioneuvosto katsoo, että komissiolle delegoitavien toimivaltuuksien tulee olla selkeitä, tarkkarajaisia, oikeasuhtaisia, tarkoituksenmukaisia ja hyvin perusteltuja. Jatkokäsittelyssä komissiolle delegoitavan säädösvallan ja täytäntöönpanovallan laajuutta ja tarkoituksenmukaisuutta tulee tarkastella huomioiden myös sääntelyn ennakoitavuus eri toimijoille sekä vaikutukset toimintaympäristöön.

Valtioneuvosto painottaa mahdollisuutta hyödyntää parhaiden käytänteiden jakamista. Lisäksi valtioneuvosto tukee komission näkemystä siitä, että erityisesti pk-yrityksiä tulee tukea digitaalisessa siirtymässä. Valtioneuvosto tukee asetusehdotuksen tavoitetta tukea pk-yrityksiä sääntelyn hiekkalaatikoiden sekä testaus- ja kokeiluympäristöjen perustamisen myötä, mutta pitää tärkeänä, että sääntelyn soveltamisalasta ja toimijoiden velvoitteista sekä niistä tehtävien poikkeusten edellytyksistä säädetään tarkkarajaisesti perussäädöksessä ja sääntelyssä turvataan toimijoiden yhdenvertaisuus.

Valtioneuvosto toteaa, että asetusehdotuksen mainintaa sotilaallisiin tarkoituksiin kehitettyjen ja käytettyjen tekoälyjärjestelmien rajautumisesta soveltamisalan ulkopuolelle tulisi jatkovalmisteluissa täsmentää huomioimaan vastaavalla tavalla erikseen sisältyvin osin myös kansallisen turvallisuuden ylläpitämiseen sisältyvät tarkoitukset. Valtioneuvosto suhtautuu varauksella luottamuksellisia tietoja koskevaan säännösehdotukseen koskien artiklaa 70 huomioiden, että sääntelyn ei tulisi johtaa julkisuusperiaatteen kaventumiseen.

VALIOKUNNAN PERUSTELUT

Arvion lähtökohdat

Sääntelyn tavoite ja suhde perusoikeuksiin

Kansallinen liikkumavara

Suhde tietosuojalainsäädäntöön

Julkisuusperiaate

Seuraamusmaksusääntely

Toimivallan siirto

(1)Perustuslakivaliokunnan arvioitavana on valtioneuvoston kirjelmä eduskunnalle komission ehdotuksesta Euroopan parlamentin ja neuvoston asetukseksi tekoälyn harmonisoiduksi sääntelyksi (Artificial Intelligence Act, jäljempänä myös tekoälyasetus). Tekoäly on nopeasti kehittyvä teknologiaperhe, joka voi myötävaikuttaa monenlaisiin taloudellisiin ja yhteiskunnallisiin etuihin kaikilla toimialoilla ja sosiaalisessa toiminnassa.

(2)Komissio ehdottaa oikeudellista kehystä eurooppalaisen lähestymistavan luomiseksi sekä yleisten etujen, erityisesti terveyden, turvallisuuden, perusoikeuksien ja -vapauksien korkean tason suojelun toteuttavan tekoälyn kehittämisen ja käyttöönoton edistämiseksi. Komission sääntelyehdotus on valtioneuvoston kirjelmän mukaan ensimmäinen laatuaan maailmassa, ja se pyrkii edelläkävijänä viitoittamaan suuntaa globaalisti.

(3)Tekoälyasetuksen perusratkaisuna on riskiperustainen ja käyttötapauskohtainen lähestymistapa, jossa tekoälyn sovellustilanteet luokitellaan käyttötarkoituksen pohjalta kiellettyihin käyttötarkoituksiin, korkean riskin käyttötarkoituksiin, matalan riskin käyttötarkoituksiin ja minimaalisen tai olemattoman riskin käyttötarkoituksiin. Saman tekoälyteknologian käyttö voisi täten olla sallittua tai kiellettyä EU:n alueella riippuen käyttötarkoituksesta. Sääntely määräytyisi sen perusteella, missä määrin tekoälyjärjestelmän käyttö voisi aiheuttaa merkittävän haitallisen vaikutuksen ihmisten terveyteen, turvallisuuteen tai perusoikeuksien toteutumiseen. Ehdotuksen mukaan ensimmäiseen kategoriaan kuuluvat tietyt käyttötarkoitukset ovat kokonaan kielletyt. Kiellettyä on 5 artiklan 1 kohdan mukaan esimerkiksi sellaisen tekoälyjärjestelmän markkinoille saattaminen, käyttöönotto tai käyttö, jossa hyödynnetään tietyn henkilöryhmän haavoittuvuuksia, jotka liittyvät heidän ikäänsä tai fyysiseen tai psyykkisen vammaansa, jotta voidaan olennaisesti vääristää kyseiseen ryhmään kuuluvan henkilön käyttäytymistä tavalla, joka aiheuttaa tai todennäköisesti aiheuttaa kyseiselle henkilölle tai toiselle henkilölle fyysistä tai psyykkistä haittaa.

(4)Lisäksi ehdotuksessa asetetaan runsaasti vaatimuksia toiseen kategoriaan kuuluvien korkean riskin järjestelmien markkinoille asettamiselle sekä käytölle. Vaatimukset kohdistuvat erityisesti datavarantojen laatuun, tekniseen dokumentaatioon valvontaviranomaisia varten, läpinäkyvyyteen käyttäjiä kohtaan ja ihmisen suorittamaan valvontaan. Riskejä tulee hallita säännöllisesti ja järjestelmällisesti koko tekoälyjärjestelmän elinkaaren ajan. Asetusehdotus velvoittaa ensisijaisesti tuotteiden kehittäjiä sekä markkinoille asettajia.

(5)Tekoälyasetuksen tavoitteena on yhtäältä edistää tekoälyyn liittyviä kaupallisia intressejä, toisaalta turvata perus- ja ihmisoikeuksia tekoälyn käytössä. Tekoälyasetus on muodollisesti luonteeltaan lähinnä EU:n riskiperusteista tuoteturvallisuussääntelyä. Asetuksella on valtioneuvoston kirjelmän mukaan useita liittymäkohtia voimassa olevaan unionin lainsäädäntöön. Osana tuoteturvallisuutta koskevaa lainsäädäntöä asetusehdotus sovitetaan yhteen esimerkiksi voimassa olevan sektorikohtaisen turvallisuuslainsäädännön kanssa. Osana perus- ja ihmisoikeuksien suojaa koskevaa lainsäädäntöä tekoälyasetus täydentää toisaalta esimerkiksi henkilötietojen suojaa koskevaa, perustuslakivaliokunnan myötävaikutuksella kansallisesti täydennettyä ja täsmennettyä yleistä tietosuoja-asetusta () ja kansallisesti toimeenpantua poliisidirektiiviä ().

(6)Kuten valtioneuvoston kirjelmästäkin ilmenee, tekoälyasetuksella on vaikutuksia moniin perusoikeuksiin ja merkittäviä vaikutuksia kansalliseen lainsäädäntöön. Asetuksen sääntely ulottuu valtioneuvoston kirjelmän mukaan useille eri toimialoille, kuten julkinen sektori, koulutus, turvallisuus, oikeusjärjestelmä ja liikenne, työlainsäädäntö, työvoimapalvelut ja sosiaaliturva sekä luottolaitokset ja luottotietotoiminnan harjoittaminen. Erityistä huomiota kirjelmässä kiinnitetään hallinnon automaattista päätöksentekoa koskevan yleislainsäädännön valmisteluun sekä asetusehdotuksen suhteeseen tietosuojalainsäädäntöön.

(7)Valtioneuvoston kirjelmän mukaan tekoälyasetusta on arvioitava ainakin perustuslain 6 §:ssä turvatun yhdenvertaisuuden, 7 §:ssä turvatun oikeuden elämään sekä henkilökohtaiseen vapauteen ja koskemattomuuteen, 8 §:ssä turvatun rikosoikeudellisen legaliteettiperiaatteen, 10 §:ssä turvatun yksityisyyden ja henkilötietojen suojan, 12 §:ssä turvatun sananvapauden, 18 §:ssä turvatun elinkeinovapauden ja oikeuden työhön, 21 §:ssä turvatun oikeusturvan ja hyvän hallinnon sekä hallintotehtävän antamisesta muun kuin viranomaisen hoidettavaksi perustuslain 124 §:ssä säädetyn kannalta. Valtioneuvoston kirjelmästä ilmenee myös (s. 20), että asetuksen sääntely kattaa esimerkiksi sellaiset järjestelmät, joita käytetään oikeusviranomaisen avustamisessa lain tulkinnassa ja soveltamisessa.

(8)Perustuslakivaliokunnan mielestä ehdotettu tekoälyasetus vaikuttaa tulevaisuuden yhteiskuntaan perustavanlaatuisella tavalla, eikä sitä voi pitää yksin tuoteturvallisuutta koskevana lainsäädäntönä. Tekoälyasetuksen oikeusvaikutukset ovat perusoikeusjärjestelmän kannalta kirjelmässäkin kuvatuin tavoin erittäin merkittäviä.

(9)Asiassa on kyse kansalliseen oikeuteen nähden etusijan saavan EU-asetuksen valmistelusta. Perustuslakivaliokunnan mukaan on ollut selvää, että voimassa olevan EU-lainsäädännön etusijan perusteella ei EU-lainsäädännön valmistelun yhteydessä voi sivuuttaa perus- ja ihmisoikeuksiin liittyviä näkökohtia, vaan valiokunta on arvioinut EU-oikeuden lainsäädäntö- ja sopimushankkeita perus- ja ihmisoikeuksien kannalta kiinnittämällä valtioneuvoston huomiota valmistelussa myös merkitykselliseen tuomioistuinkäytäntöön (ks. esim., s. 4—5,, s. 5—6,, s. 4—5). Valiokunta on nimenomaisesti painottanut yleisesti sen varmistamista, että EU-oikeuden asetusehdotukset pysyvät olemassa olevien perus- ja ihmisoikeusperiaatteiden puitteissa (, s. 5). Valiokunnan lausuntokäytännön mukaan Suomen perustuslaissa turvatut perusoikeudet ovat olleet merkityksellisiä myös EU-sääntelyn valmistelussa (ks. esim., s. 4 ja, s. 5—6 ja niissä viitatut lausunnot). Suomen perustuslain tulee ohjata valtioneuvoston kannanmuodostusta EU-lainsäädännön valmistelussa (ks. esim.). Valiokunta on vakiintuneesti todennut myös, että perustuslain 1 §:n 3 momentti yhdessä perustuslain 22 §:ssä säädetyn perus- ja ihmisoikeuksien turvaamisvelvollisuuden kanssa merkitsee, että valtioneuvoston tulee osallistua EU-säädösehdotusten valmisteluun tavalla, joka turvaa perus- ja ihmisoikeuksia Suomen lisäksi koko Euroopan unionissa (ks., kappale 3,, s. 3,, s. 6,, s. 5). Asetusehdotusta on siten valmisteluvaiheessa arvioitava perusoikeuksien yleisten ja tarvittaessa kunkin perusoikeuden erityisten rajoitusedellytysten kannalta, tarvittaessa myös EU-tuomioistuimen ja Euroopan ihmisoikeustuomioistuimen käytäntöön tukeutuen.

(10)Perustuslakivaliokunnan mukaan eduskunnan perustuslain 96 ja 97 §:n mukaiset tiedonsaanti- ja vaikutusmahdollisuudet on turvattava asianmukaisesti (ks. esim., kappale 4,). Kuten valtioneuvoston kirjelmästä ilmenee, asetusehdotukseen liittyy vielä monelta osin laajaakin selvittämistä vaativia, perus- ja ihmisoikeuksien kannalta olennaisia kysymyksiä. Valiokunta kiinnittää valtioneuvoston huomiota eduskunnan riittävään ja ajantasaiseen informoimiseen perustuslain mukaisella menettelyllä nyt käsillä olevan asetusehdotuksen jatkovalmistelussa.

(11)Perustuslakivaliokunnan mielestä on odotettavissa, että näin merkittävään sääntelyehdotukseen kohdistuu jatkovalmistelussa vielä useita muutoksia. Valiokunta ei sanotun johdosta pyri vielä käsittelyn tässä vaiheessa käsittelemään kaikkia sääntelyn yksityiskohtia.

(12)Tekoälyasetuksen 84 artiklassa säädetään arvioinnista ja uudelleentarkastelusta. Perustuslakivaliokunta korostaa säädettäväksi ehdotetun merkitystä. Valiokunnan mielestä Suomen on syytä pyrkiä sääntelyyn asetuksen mahdollisimman säännönmukaisesta ja kattavasta seurannasta ja vaikutusarvioinnista sekä uudelleentarkastelusta tilanteessa, jossa asetuksen sääntely osoittautuu mahdollisesti ongelmalliseksi perus- ja ihmisoikeuksien kannalta.

(13)Kuten edellä ilmenee, tekoälyasetuksen tavoitteena on yhtäältä edistää kaupallisia intressejä, toisaalta turvata perus- ja ihmisoikeuksia. Perustuslakivaliokunnan mielestä sääntelyllä on hyväksyttävät tavoitteet. Valiokunta painottaa tarvetta varmistaa, että kahden toisinaan vastakkaisen intressin turvaamiseksi laadittava sääntely ei ole ongelmallista suhteellisuusvaatimuksen kannalta. Valiokunta kiinnittää siten erityistä huomiota yhdenvertaisuuteen, yksityiselämän suojaan, oikeusturvaan ja hyvän hallinnon vaatimuksiin sekä elinkeinovapauteen.

PeVL 36/2016 vpPeVL 36/2016 vp

(15)Perustuslakivaliokunnan käsityksen mukaan perustuslain ja kansainvälisten ihmisoikeussopimusten näkökulmasta keskeisimmät ongelmat tekoälyn käytössä ja sen sääntelyssä liittyvät kuitenkin erityisesti yhdenvertaisuuteen ja syrjinnän kieltoihin sekä oikeusturvaan. Tekoälyn käytöllä voi sinänsä olla sekä myönteisiä että kielteisiä vaikutuksia niin yhdenvertaisuuteen kuin oikeusturvaankin.

(16)Valtioneuvoston kirjelmän mukaan asetusehdotuksessa pyritään estämään tekoälyn syrjivyyden vaikutukset asettamalla vaatimuksia tekoälyjärjestelmän kehittämiselle, koulutukselle ja käytölle esimerkiksi korkealaatuisen datan käytön vaatimusten sekä tekoälyjärjestelmiä koskevien läpinäkyvyysvelvoitteiden avulla. Komission arvion mukaan korkealaatuiset algoritmit ja data ovat keskeisiä edellytyksiä syrjinnän estämiselle. Tekoälyjärjestelmän vaatimustenmukaisuusvalvontaa, testausta ja jälkivalvontaa koskevat velvoitteet auttavat tunnistamaan järjestelmän poikkeavuuksia ja siten myös edistämään syrjinnän ehkäisyä. Asetusehdotuksessa kielletään tietyt käyttötapaukset, joissa tekoälyjärjestelmiä käytetään esimerkiksi henkilöiden luotettavuuden arviointiin sosiaalisen pisteytyksen avulla ja jotka mahdollisesti johtaisivat tiettyjen henkilöryhmien epäedulliseen kohteluun.

(17)Perustuslakivaliokunta painottaa sanottujen seikkojen merkitystä. Syrjimättömyyden ja yhdenvertaisuuden vaatimusten toteutumista tulisi kuitenkin jatkovalmistelussa arvioida systemaattisemmin erityisesti haavoittuvassa asemassa olevien ihmisten, kuten lapsien ja vammaisten henkilöiden, kannalta. Samalla tulisi tarkemmin kiinnittää huomiota asetusehdotuksen suhteeseen voimassa olevaan yhdenvertaisuus- ja syrjintäkieltosääntelyyn unionissa ja Suomessa sekä niiden valvontamekanismeihin.

(18)Tekoälyn käyttöön voi liittyä profilointia. Perustuslakivaliokunta on korostanut esimerkiksi kolmansien maiden kansalaisiin kohdistuvaa riskinarvioinnin käyttöönottoa merkitsevässä sääntely-yhteydessä yhdenvertaisuus- ja syrjintäkieltonormiston merkitystä, mikä on tarkoittanut esimerkiksi etnisen profiloinnin kieltoa eli kieltoa kohdistaa esimerkiksi tarkastuksia kansallisuuden ja kansallisen alkuperän perusteella (, kappale 6,, s. 4—5, ks. myös, s. 3,, s. 4/II).

(19)Perustuslakivaliokunta kiinnittää lisäksi valtioneuvoston huomiota myös Suomea velvoittavien ihmisoikeussopimusten huomioimiseen jatkovalmistelussa. Erityisen merkityksellisinä valiokunta pitää tässä yhteydessä esimerkiksi lapsen oikeuksien yleissopimuksen ja vammaisten henkilöiden oikeuksien yleissopimuksen määräyksiä (ks. myös lasten oikeuksien komitean 24.3.2021 antama yleiskommentti lasten oikeuksista digitaalisessa ympäristössä; General Comment No 25 (2021) Children's rights in relation to the digital environment, CRC/CGC/25).

(20)Perustuslakivaliokunta kiinnittää huomiota siihen, että komission ehdotuksen mukainen asetus on EU:n säädös, joka on kaikilta osiltaan velvoittava ja jota sovelletaan sellaisenaan kaikissa jäsenvaltioissa. Euroopan unionin tuomioistuimen vakiintuneen oikeuskäytännön mukaan unionin lainsäädäntö on ensisijaista suhteessa kansallisiin säännöksiin oikeuskäytännössä määriteltyjen edellytysten mukaisesti (, s. 2/II). EU-tuomioistuimen vakiintuneen oikeuskäytännön mukaan kansallista sääntelyä ei saa antaa asetuksen soveltamisalalla, ellei asetus nimenomaisesti velvoita tai valtuuta täydentävään kansalliseen sääntelyyn tai muuhun päätöksentekoon (asia 34/73, Variola, tuomio 10.10.1973, asia 50/76, Amsterdam Bulb, tuomio 2.2.1977, 33 kohta). Valiokunta on pitänyt tärkeänä, että siltä osin kuin Euroopan unionin lainsäädäntö edellyttää kansallista sääntelyä tai mahdollistaa sen, tätä kansallista liikkumavaraa käytettäessä otetaan huomioon perus- ja ihmisoikeuksista seuraavat vaatimukset (ks.).

PeVL 14/2018 vpPeVL 14/2018 vp

(22)Ehdotettu sääntely on merkityksellistä perustuslain 21 §:ssä turvatun oikeusturvan kannalta. Perustuslakivaliokunta yhtyy tältä osin valtioneuvoston kantaan. Valiokunta kiinnittää kuitenkin lisäksi huomiota siihen, että valiokunta on perustuslain 21 §:ssä turvatun oikeusturvan ja hyvän hallinnon sekä julkisen vallan käytön lakiperustaisuuden näkökulmasta kiinnittänyt huomiota siihen, ettei julkishallinnon automaattisessa päätöksenteossa massaluonteisessakaan toiminnassa saa vaarantaa hyvän hallinnon vaatimuksia tai asianosaisen oikeusturvaa (). Valiokunta on myös useassa muussa yhteydessä arvioinut viranomaisen automatisoidun päätöksenteon edellytyksiä oikeusturvan, virkavastuun ja hyvän hallinnon vaatimusten kannalta (ks. myös,, s. 5,, s. 2).

(23)Valtioneuvoston kannan mukaan tekoälyasetuksen sääntelyn voidaan osaltaan katsoa edistävän hyvän hallinnon periaatteiden toteutumista. Esimerkiksi useat korkeariskisiksi luokitellut tekoälyjärjestelmät ovat käytössä julkisessa hallinnossa myös yksityisen henkilön kannalta keskeisissä julkisissa palveluissa ja päätöksenteossa. Lisäksi niitä käytetään muun muassa lainvalvonnassa, maahanmuuttohallinnossa ja oikeudenhoidossa. Tekoälyasetuksen mukaan korkean riskin tekoälyjärjestelmiä voi saattaa unionin markkinoille tai ottaa käyttöön vain, jos ne täyttävät tietyt pakolliset vaatimukset.

(24)Perustuslakivaliokunta kiinnittää huomiota siihen, että suuririskisten järjestelmien määritelmään kuuluisivat eräät viranomaiset, mutta eivät viranomaiset yleisesti. Soveltamisalaan kuuluisi ilmeisesti esimerkiksi sosiaaliturvan toimeenpano ("julkisen avun etuudet ja palvelut", III liitteen 5 kohdan a alakohta), mutta ei esimerkiksi verotuksen toimittaminen, vaikka siihenkin voi katsoa liittyvän samankaltaisia riskejä kuin julkisten etuuksien ja palveluiden myöntämiseen. Lainvalvonta- ja maahanmuuttoviranomaiset kuuluisivat soveltamisalaan, mutta vain liitteessä lueteltujen järjestelmien osalta. Valiokunta pitää tarpeellisena tarkastella soveltamisalan johdonmukaisuutta.

(25)Perustuslakivaliokunnan mielestä asetuksen jatkovalmistelussa on olennaista varmistaa, että sääntely mahdollistaa julkisen sektorin tekoälyjärjestelmien kansallisen, asetuksessa säädettyä vähimmäistasoa pidemmälle menevän sääntelyn. Kansallisella lainsäädännöllä on voitava tarvittaessa turvata perustuslain 21 §:ssä turvatun oikeusturvan ja hyvän hallinnon asianmukainen toteutuminen. Valiokunnan mielestä tästä voidaan huolehtia toteuttamalla sääntely esimerkiksi EU:n tietosuoja-asetuksen tapaan kansallisen lainsäädännön mahdollistavana asetuksena tai eriyttämällä mainittujen kokonaisuuksien sääntely vähimmäisharmonisoivaksi direktiiviksi.

(26)Valtioneuvoston kirjelmän mukaan tekoälyasetuksen suhdetta muuhun unionin sääntelyyn, kuten yleiseen tietosuoja-asetukseen, tulee täsmentää neuvotteluissa. Sääntelyä tulisi arvioida kokonaisuutena mm. EU-lainsäädännön laadun, selkeyden ja toimivuuden kannalta.

(27)Perustuslakivaliokunta painottaa tällaisen kokonaisarvion tarvetta. Tekoälyasetuksessa esimerkiksi säännellään korkean riskin kategoriaan kuuluvia tekoälyjärjestelmiä, jotka ovat merkityksellisiä yksityisyyden ja henkilötietojen suojan kannalta, kuten biometriseen tunnistukseen tai henkilöiden luokitteluun liittyviä järjestelmiä.

(28)Tekoälyasetuksen 5 artiklan 1 kohdassa kiellettyihin tekoälykäytänteisiin kuuluu artiklan d kohdan mukaan myös reaaliaikaisten biometristen etätunnistusjärjestelmien käyttö lainvalvontatarkoituksiin julkisesti käytettävissä olevissa tiloissa. Poikkeuksen tästä kiellosta muodostavat asetuksen 5 artiklan 1 kohdan d alakohdan mukaan kuitenkin tietyissä tilanteissa rikoksen uhrien ja kadonneiden lasten kohdennettu etsiminen, luonnollisten henkilöiden elämään tai fyysiseen turvallisuuteen kohdistuvan erityisen, merkittävän ja välittömän uhan tai terrori-iskun estäminen ja rikoksentekijän tai epäillyn rikoksentekijän paikantaminen, tunnistaminen ja syytteeseenpano, jos rangaistusseuraamuksen enimmäisaika on vähintään kolme vuotta. Etätunnistuksen kiellosta tehtävien poikkeusten perusteluja voidaan lainvalvonnan kannalta pitää sinänsä varsin painavina, kun lisäksi otetaan huomioon, että etätunnistuksen tarkoituksena on myös suojata henkilökohtaista turvallisuutta ja sitä tukevan lainvalvonnan edellytyksiä. Poikkeusten käyttöalaa on säännösehdotuksessa lisäksi pyritty rajoittamaan yksityiselämän suojan kannalta. Perustuslakivaliokunta kiinnittää tältä osin valtioneuvoston huomiota jatkovalmistelussa kuitenkin myös Euroopan tietosuojaneuvoston ja Euroopan tietosuojavaltuutetun antamassa lausunnossa (18.6.2021) tarkasteltuihin poikkeusten soveltamiseen liittyviin merkittäviin riskeihin ja peruuttamattomiin vaikutuksiin yksityiselämän suojan ja oikeuden anonymiteettiin kannalta.

(29)Perustuslain 12 §:n 2 momentin mukaan viranomaisen hallussa olevat asiakirjat ja tallenteet ovat julkisia. Niiden julkisuutta voidaan rajoittaa vain välttämättömien syiden vuoksi erikseen lailla. EU:n perusoikeuskirjan 42 artikla puolestaan takaa oikeuden tutustua EU:n toimielinten, elinten ja laitosten asiakirjoihin niiden tallennemuodosta riippumatta.

PeVL 14/2000 vpPeVL 14/2000 vp

(31)Tekoälyasetuksen 71 artiklan mukaan jäsenvaltioiden tulee säätää rangaistuksista, mukaan lukien sakoista, jotka koskevat asetuksen rikkomista. Valtioneuvoston kirjelmässä esitetyn alustavan arvion mukaan rangaistukset säädettäisiin kansallisesti hallinnollisina seuraamusmaksuina. Ankarimmillaan maksu voi 71 artiklan 3 kohdan mukaisissa tapauksissa olla enintään 30 000 000 euroa tai, jos rikkomiseen syyllistynyt on yritys, enintään 6 prosenttia sen edeltävän tilikauden vuotuisesta maailmanlaajuisesta kokonaisliikevaihdosta sen mukaan, kumpi näistä määristä on suurempi.

(32)Perustuslakivaliokunnan vakiintuneen tulkinnan mukaan tällaiset maksut eivät ole perustuslain 81 §:n mielessä sen paremmin veroja kuin maksujakaan vaan lainvastaisesta teosta määrättäviä sanktioluonteisia hallinnollisia seuraamuksia. Valiokunta on asiallisesti rinnastanut rangaistusluonteisen taloudellisen seuraamuksen rikosoikeudelliseen seuraamukseen (,,, s. 2/I,, s. 2/I ja, s. 2/II). Hallinnollisen seuraamuksen yleisistä perusteista on säädettävä perustuslain 2 §:n 3 momentin edellyttämällä tavalla lailla, koska sen määräämiseen sisältyy julkisen vallan käyttöä. Valiokunta on myös katsonut, että kyse on merkittävästä julkisen vallan käytöstä. Laissa on täsmällisesti ja selkeästi säädettävä maksuvelvollisuuden ja maksun suuruuden perusteista sekä maksuvelvollisen oikeusturvasta samoin kuin lain täytäntöönpanon perusteista (,,, s. 2/I,, s. 2/II,, s. 2/I ja, s. 2—3). Vaikka perustuslain 8 §:n rikosoikeudellisen laillisuusperiaatteen täsmällisyysvaatimus ei sellaisenaan kohdistu hallinnollisten seuraamusten sääntelyyn, ei tarkkuuden yleistä vaatimusta kuitenkaan voida tällaisen sääntelyn yhteydessä sivuuttaa (,,, s. 2/II,, s. 2/II ja, s. 5/I). Säännösten tulee täyttää myös sanktioiden oikeasuhtaisuuteen liittyvät vaatimukset (ks. esim.,).

(33)Perustuslakivaliokunta kiinnittää täsmällisyyden ja tarkkarajaisuuden näkökulmasta huomiota asetuksen sisältöön suhteessa seuraamusmaksusääntelyyn. Valiokunnan mielestä tästä näkökulmasta kokonaan ongelmatonta ei ole esimerkiksi seuraamusmaksulla sanktioitu asetuksen 9 artiklan sääntely riskienhallintajärjestelmästä, jossa edellytetään esimerkiksi artiklassa tarkoitettujen riskinhallintatoimenpiteiden osalta kuhunkin vaaraan mahdollisesti liittyvän jäännösriskin ja suuririskisten tekoälyjärjestelmien kokonaisjäännösriskin olevan "hyväksyttävällä" tasolla. Valiokunnan mielestä tällaisiin punnintaa edellyttäviin hyväksyttävyysarviointiin nojaaviin säännöksiin soveltuu verraten huonosti vaatimus seuraamussääntelyn ennakoitavuudesta. Säännöksessä ei myöskään tarkenneta, miten ja millaisessa menettelyssä kyseinen hyväksyttävyysarviointi tehdään.

(34)Perustuslakivaliokunta kiinnittää siten erityistä huomiota tekoälyasetuksen 71 artiklan 4 kohtaan, jonka mukaan suuruusluokaltaan edellä selostettua vastaava hallinnollinen seuraamusmaksu voidaan määrätä, jos tekoälyjärjestelmä ei täytä muita kuin 71 artiklan 3 kohdassa viitattuja asetuksen mukaisia vaatimuksia ja velvoitteita. Kyseessä on ns. blankosäännös, joka vaikuttaa merkitsevän sitä, että sanktioitavien tekojen tai laiminlyöntien piiriin lukeutuu kaikenlainen asetuksen rikkominen.

(35)Perustuslakivaliokunta ei sinänsä ole pitänyt blankorangaistussääntelyä perustuslain kieltämänä sääntelytekniikkana. Tällaiseen sääntelyyn on hallinnollisissa sanktioissa syytä soveltaa vastaavia periaatteita, joita perustuslakivaliokunta on noudattanut rikosoikeudellista blankosääntelyä arvioidessaan (ks.). Laillisuusperiaatteeseen liittyvistä syistä blankosäännöksiin on syytä suhtautua torjuvasti (ks. esim., s. 3,, s. 2/II ja, s. 3/II). Jo perusoikeusuudistuksessa perustuslakivaliokunta korosti, että blankosäännösten osalta tavoitteena tulee olla, että niiden edellyttämät valtuutusketjut ovat täsmällisiä, rangaistavuuden edellytykset ilmaisevat aineelliset säännökset on kirjoitettu rikossäännöksiltä vaaditulla tarkkuudella ja nämä säännökset käsittävästä normistosta käy ilmi myös niiden rikkomisen rangaistavuus sekä kriminalisoinnin sisältävässä säännöksessä on jonkinlainen asiallinen luonnehdinta kriminalisoitavaksi tarkoitetusta teosta ().

(36)Perustuslakivaliokunnan mielestä asetuksen seuraamussääntely voi merkitä, että mikä tahansa osittainenkin laiminlyönti voi muodostua virhemaksulla sanktioitavaksi. Tällainen sääntely ei täytä hallinnollisen seuraamusmaksun sääntelylle asetettuja täsmällisyyden ja tarkkarajaisuuden vaatimuksia (, s. 8, ks. myös) eikä näin avoimena ja ennakoimattomuutta luovana vaikuta myöskään oikeasuhtaiselta elinkeinovapauden rajoitukselta. Valtioneuvoston on syytä kiinnittää erityistä huomiota seuraamussääntelyn täsmentämiseen jatkovalmistelussa.

(37)Perustuslakivaliokunta on arvioidessaan EU:n yleisen tietosuoja-asetuksen vastaavan seuraamussääntelyn kansallista täydentämistä kiinnittänyt erityistä huomiota siihen, että tällaiset seuraamusmaksut ovat määrältään huomattavia ja voivat muodostua oikeasuhtaisuuden kannalta ongelmallisiksi, mikä korostaa oikeusturvalle asetettavia vaatimuksia. Valiokunta kiinnitti lisäksi huomiota siihen, ettei tietosuoja-asetuksessa tarkemmin määritellä, minkä suuruisena seuraamusmaksu kussakin tilanteessa tulee määrätä, vaan tämä riippuu siitä, millainen merkitys päätöksenteossa annetaan asetuksessa luetelluille tekijöille. Sanotut tekijät korostivat valiokunnan mielestä oikeusturvalle asetettavia vaatimuksia (, s. 18, ks. myös). Valiokunta on myös pitänyt ns. ankaraan vastuuseen ja ns. käännetyn todistustaakan varaan perustuvaa seuraamuksen määräämistä perustuslain 21 §:ään sisältyvän syyttömyysolettaman vastaisena (, s. 7/I,, ks. myös). Valiokunnan mielestä myös nyt on merkityksellistä, että tekoälyasetuksen 71 artiklan 6 kohdassa edellytetään hallinnollisen sakon määrässä otettavan asianmukaisesti huomioon kussakin yksittäisessä tapauksessa kaikki kyseisen tilanteen kannalta merkittävät olosuhteet sekä esimerkiksi rikkomisen ja sen seurausten luonne, vakavuus ja kesto.

(38)Perustuslakivaliokunta katsoi tietosuoja-asetusta täydentävän tietosuojalain arvioinnin yhteydessä, että määräämismenettelyn asianmukaisuutta, riippumattomuutta ja puolueettomuutta perustuslain 21 §:n edellyttämällä tavalla turvaa se, että seuraamusmaksun määräämisestä päättäminen säädetään monijäsenisen elimen toimivaltaan kuuluvaksi. Tämä oli edellytys sille, että lakiehdotus voitiin käsitellä tavallisen lain säätämisjärjestyksessä. Sääntelyn edellä todetuista erityispiirteistä seurasi valiokunnan mielestä myös se, että oli tarkoin selvitettävä, millaisia muita oikeusturvaa parantavia menettelyyn liittyviä muutoksia hallinnollisesta seuraamusmaksusta päättävän monijäsenisen elimen perustaminen sääntelyyn edellyttää (, s. 18, ks. myös). Valiokunta kiinnittää valtioneuvoston huomiota korostuneeseen oikeusturvan tarpeeseen myös nyt ehdotettavassa sääntelyssä ja korostaa edelleen kansallisen liikkumavaran tarvetta. Valiokunta kiinnittää erityistä huomiota tarpeeseen sovittaa tekoälyasetuksen sääntely tältäkin osin yhteen tietosuoja-asetuksen sääntelyn kanssa.

(39)Perustuslakivaliokunta on kiinnittänyt huomiota myös siihen, että sanktioita koskevan sääntelyn tulee olla oikeasuhtaista (, s. 5,, s. 2—3,, s. 7—8,, s. 6/I). Valiokunta on aiemmassa käytännössään pitänyt oikeasuhtaisuusvaatimuksen kannalta arveluttavana sitä, että eräistä varsin vähäisinä pidettävistä laiminlyönneistäkin seuraavan laiminlyöntimaksun suuruuden ehdotettiin olevan vähintään 500 euroa (). Valiokunnan mielestä luonnolliselle henkilölle määrättävä viiden miljoonan euron seuraamusmaksu on vaikuttanut tähän nähden suhteellisen ankaralta seuraamukselta (, s. 5). Valiokunnan mielestä myös nyt ehdotettavat seuraamusmaksut ovat suhteellisen suuria, erityisesti mikäli tarkoituksena on soveltaa niitä myös luonnollisiin henkilöihin.

PeVL 14/2018 vpPeVL 14/2018 vp

(41)Komissiolle ehdotetaan siirrettäväksi laajasti valtaa antaa delegoituja säädöksiä määräämättömäksi ajaksi asetuksen liitteiden muuttamiseksi. Artiklassa 73 säädetään delegointivallan käytöstä, ja 4 artiklan mukaan delegoiduilla säädöksillä olisi muun muassa mahdollista muuttaa asetuksen liitettä I tekoälyn hyödyntämisessä käytettävistä tekniikoista. Liite I on merkityksellinen asetuksessa käytetyn tekoälyn määritelmän osalta ja siten myös koko asetuksen soveltamisalan kannalta. Komissio voi 7 artiklan 1 kohdan mukaan muuttaa asetuksen liitettä III ja lisätä tekoälyjärjestelmiä korkean riskin kategoriaan. Kyseisessä artiklassa säädetyt perusteet, joilla komissio voisi muuttaa liitettä III, mahdollistavat laajasti uusien tekoälyjärjestelmien lisäämisen korkean riskin kategoriaan. Delegoitujen säädösten tarkoituksena on lisätä sääntelyn joustavuutta ja varmistaa, että tekoälyn käytön kehitys voitaisiin huomioida. Kyse on kuitenkin sääntelyn soveltamisalan mahdollisesta laajentamisesta. Lisäksi komissio voisi antaa eräitä muita delegoituja säädöksiä ja sille ehdotetaan siirrettäväksi täytäntöönpanovaltaa, jonka nojalla se voisi antaa täytäntöönpanosäädöksiä tietyistä asioista.

PeVL 12/2012 vpPeVL 12/2012 vp