EU pyrkii globaaliksi johtajaksi tekoälyn sääntelyssä

Tekoälyteknologioilla on monia hyödyllisiä yhteiskunnallisia sovelluksia. Näihin teknologioihin liittyy kuitenkin riskejä, esimerkiksi tekoälyn kasvojentunnistukseen liittyvät riskit yksityisyydensuojalle tai tekoälyä hyödyntävä päätöksenteko, joka perustuu syrjiville algoritmeille. Komission uudessa lakiehdotuksessa tekoälyjärjestelmien käyttöä säännellään sen mukaisesti, mikä on niiden mahdollinen riski niistä ihmisten oikeuksille tai turvallisuudelle. Lisäksi komissio ehdottaa konedirektiivin ja tekoälyn kehittämistä koskevan koordinoidun suunnitelman päivittämistä.

Komission ehdotuksessa tekoälyjärjestelmien riskit jaetaan neljään luokkaan:

• Minimaalisiin riskeihin kuuluu suurin osa tekoälyjärjestelmistä, esimerkiksi sähköpostien roskapostisuodattimet ja tekoälyä hyödyntävät videopelit.
• Vähäisen riskin tekoälyjärjestelmiin kuuluville tuotteille asetetaan tietyt läpinäkyvyysvaatimukset. Palvelurobottien, esimerkiksi asiakaspalvelussa käytettävien keskustelubottien, kaltaisia tekoälyjärjestelmiä käyttäessään käyttäjien olisi ymmärrettävä olevansa vuorovaikutuksessa koneen kanssa.
• Suuririskiksi katsotaan tekoälyjärjestelmät, joita käytetään mm. kriittisissä infrastruktuureissa, koulutusalalla, tuotteiden turvakomponenteissa, työllistämisessä ja henkilöstöhallinnossa, keskeisissä yksityisissä ja julkisissa palveluissa, lainvalvonnassa, muuttoliikkeen hallinnassa, turvapaikka-asioissa ja rajavalvonnassa sekä oikeudenkäytössä ja demokraattisissa prosesseissa.
• Ei-hyväksyttävän riskin tekoälyjärjestelmiin luetaan sellaiset, joita pidetään selvänä uhkana ihmisten turvallisuudelle, toimeentulolle tai oikeuksille. Niiden käyttö kielletään säännöissä täysin. Niihin sisältyvät tekoälyjärjestelmät tai -sovellukset, joilla manipuloidaan ihmisen käyttäytymistä vapaan tahdon vastaisesti sekä järjestelmät, joiden avulla valtiot pisteyttävät kansalaisia sosiaalisten tekijöiden perusteella.

Suuririskisiä tekoälyjärjestelmiä saisi kuitenkin käyttää tietyin ehdoin esimerkiksi viranomaistoiminnassa. Niitä voi tuoda markkinoille, jos ne täyttävät tiukat vaatimukset järjestelmän vakaudesta, tietoturvasta ja tarkkuudesta. Järjestelmän käyttäjälle on annettava selkeät ja riittävät tiedot järjestelmän toiminnasta ja käyttötarkoituksesta, ja ihmisen on kyettävä riittävästi valvomaan järjestelmän toimintaa, jotta käytöstä aiheutuvat riskit saadaan minimoitua. Lisäksi järjestelmän käyttämän data-aineiston on oltava laadukasta, jotta riskit ja syrjivät tulokset saadaan minimoitua.

Komission lakiehdotukseen kuuluu myös vanhan konedirektiivin korvaaminen uudella koneasetuksella, jolla varmistetaan, että uuden sukupolven laitteet ovat käyttäjille ja kuluttajille turvallisia. Tekoälyasetuksella puututaan tekoälyjärjestelmien turvallisuusriskeihin, kun taas koneasetuksella varmistetaan tekoälyjärjestelmien turvallinen integrointi koneisiin. Yritysten tarvitsee suorittaa vain yksi vaatimustenmukaisuuden arviointi, joka kattaa molempien asetusten vaatimukset.

Vuonna 2018 julkaistiin koordinoitu suunnitelma, jossa esitettiin konkreettisia Euroopan komission ja EU-maiden yhteisiä toimia EU:n nostamiseksi maailmanlaajuiseen johtoasemaan luotettavan tekoälyn kehityksessä. Jotta suunnitelma pysyisi ajan tasalla ja tarkoituksenmukaisena, komissio on nyt tehnyt siihen tarkistuksia. Päivitetyssä suunnitelmassa hyödynnetään rahoitusta Digitaalinen Eurooppa - ja Horisontti Eurooppa -ohjelmista, elpymis- ja palautumistukivälineestä, jossa digitaalialalle on varattu 20 prosentin osuus, sekä koheesiopolitiikan ohjelmista. Tarkoituksena on luoda suotuisat olosuhteet tekoälyn kehittämiselle ja käyttöönotolle, edistää tekoälyn huippuosaamisen vientiä ja varmistaa, että tekoäly toimii ihmisten hyväksi ja tuottaa yhteiskuntaan hyvää. Lisäksi halutaan rakentaa strategista johtoasemaa vaikutuksiltaan merkittävillä aloilla, kuten ympäristöasioissa.

Lakiehdotuksen liitteenä on luettelo tekoälyjärjestelmien käyttötarkoituksista, joita komissio pitää tällä hetkellä suuririskisinä. Komissio aikoo varmistaa sidosryhmiä ja asiantuntijoita kuulemalla, että luettelo pysyy ajan tasalla ja tarkoituksenmukaisena. Lakiehdotuksessa uusien sääntöjen valvonnasta vastaisivat jäsenmaiden kansalliset markkinavalvontaviranomaiset. Sääntöjen käytännön soveltamista helpottamaan ja standardointia tukemaan perustetaan Euroopan tekoälyneuvosto. Euroopan parlamentin ja EU-maiden on vielä hyväksyttävä komission tekoäly- ja koneasetusehdotukset, minkä jälkeen niitä voidaan soveltaa suoraan kaikkialla EU:ssa.