Ihmisvalvonta

Mistä tässä on kyse

Kuka teillä voi sanoa tekoälylle ei, ja onko hänellä siihen oikeasti välineet ja valtuudet? Art. 14 ei tyydy siihen, että joku 'seuraa järjestelmää'. Valvojan on ymmärrettävä, mitä malli tekee, havaittava virheet ja pystyttävä ohittamaan tai pysäyttämään se. Laki nimeää erikseen automaatioharhan eli taipumuksen hyväksyä koneen ehdotus rutiinilla. Muodollinen valvonta ei ole valvontaa lainkaan. Jos ihminen vain klikkaa aina hyväksy, kone päättää silti yksin.

Ihmisen on pystyttävä valvomaan suuririskistä tekoälyä koko sen käytön ajan. Ihmisiin vaikuttavia ratkaisuja ei saa jättää pelkän koneen varaan. 14. artikla edellyttää, että järjestelmä suunnitellaan niin, että ihminen pystyy ymmärtämään sen toiminnan, havaitsemaan virheet ja keskeyttämään sen tarvittaessa.

Käytännössä määrität, kuka valvoo, milloin ja miten hän voi puuttua ja mitkä välineet hänellä on järjestelmän pysäyttämiseen. Laki varoittaa erikseen automaatioharhasta, taipumuksesta luottaa koneen ehdotukseen liikaa. Valvonnan on oltava aitoa, ei pelkkä muodollisuus.

Ihmisvalvonta on artikla, joka ymmärretään useimmin väärin. Se ei tarkoita, että ihminen katsoo tuloksia. Se tarkoittaa, että järjestelmä on suunniteltu niin, että ihminen voi tosiasiallisesti valvoa sitä, ja ”tosiasiallisesti” on se sana, jota vasten toteutus mitataan.

Art. 14(4) luettelee, mihin valvojan on kyettävä: ymmärtämään järjestelmän kyvyt ja rajat, pysymään tietoisena automaatioharhasta, tulkitsemaan tuotosta oikein, päättämään olla käyttämättä järjestelmää tai jättämään tuotos huomiotta, sekä keskeyttämään järjestelmän toiminnan.

Automaatioharha on näistä konkreettisin ja vaikein. Se on ihmisen taipumus luottaa koneen tuotokseen liikaa erityisesti silloin kun tuotos on itsevarma ja työtahti kova. Vastalääke ei ole koulutus vaan käyttöliittymä: epävarmuuden näyttäminen, perusteiden esittäminen ja se, että ohitus on yhtä helppo kuin hyväksyntä.

Biometrisessä etätunnistuksessa on tiukempi sääntö. Toimenpidettä ei saa tehdä ennen kuin vähintään kaksi luonnollista henkilöä on erikseen varmentanut ja vahvistanut tunnistuksen. Tämä ns. neljän silmän periaate on nimenomainen eikä siitä voi poiketa tehokkuussyistä.

Valvontatoimenpiteet on suhteutettava riskeihin, autonomian asteeseen ja käyttöyhteyteen. Käytännössä tämä tarkoittaa, että täysin automaattinen päätös vaatii raskaamman valvontarakenteen kuin ehdotus, jonka ihminen joka tapauksessa käsittelee.

Yleisin virhe on kirjata ihmisvalvonta prosessikuvaukseen ilman että järjestelmässä on sitä tukevaa ominaisuutta. Jos ohitus vaatii kymmenen klikkausta ja hyväksyntä yhden, valvonta on paperilla eikä käytännössä. Toinen yleinen virhe on jättää valvojan koulutus ja toimivalta kirjaamatta. Valvoja, jolla ei ole valtuuksia keskeyttää, ei ole valvoja.

Mitä laki vaatii, kohta kohdalta

Suunnittele, miten ihminen valvoo, milloin hän puuttuu ja miten järjestelmä pysäytetään. Kuvaa tämä ihmisvalvonnan asiakirjaan.

1. §1Suuririskiset järjestelmät suunnitellaan ja kehitetään siten, että luonnolliset henkilöt voivat valvoa niitä käytön aikana
2. §2Ihmisvalvonta pyrkii ennaltaehkäisemään tai minimoimaan riskit terveydelle, turvallisuudelle tai perusoikeuksille
3. §3Valvontatoimenpiteet on suhteutettava järjestelmän riskeihin, autonomian tasoon ja käyttökontekstiin; toteuttaa tarjoaja ennen markkinoille saattamista tai käyttöönottaja
4. §4Toimenpiteet käyttöönottajalle: (a) ymmärrä järjestelmän kyvyt ja rajoitukset ja seuraa sen toimintaa, (b) tiedosta automaatioharha, (c) tulkitse järjestelmän tuloste oikein, (d) päätä olla käyttämättä järjestelmää tai sivuuta, ohita tai peruuta tuloste, (e) puutu järjestelmän toimintaan tai keskeytä se
5. §5Biometrisessa etätunnistuksessa vähintään kaksi pätevää henkilöä varmistaa tunnistuksen erikseen ennen toimenpiteitä (poikkeukset lainvalvonnassa ja rajavalvonnassa)

Usein kysytyt kysymykset