Ihmisvalvonta

Mistä tässä on kyse

Kuka teillä voi sanoa tekoälylle ei, ja onko hänellä siihen oikeasti välineet ja valtuudet? Art. 14 ei tyydy siihen, että joku 'seuraa järjestelmää': valvojan on ymmärrettävä mitä malli tekee, havaittava virheet ja pystyttävä ohittamaan tai pysäyttämään se. Laki nimeää erikseen automaatioharhan, taipumuksen hyväksyä koneen ehdotus rutiinilla, koska muodollinen valvonta, jossa ihminen klikkaa aina hyväksy, ei ole valvontaa lainkaan.

Korkean riskin tekoälyä on voitava valvoa ihmisen toimesta sen koko käytön ajan. Kone ei saa päättää yksin ihmisiin vaikuttavista asioista. 14. artikla edellyttää, että järjestelmä suunnitellaan niin, että ihminen pystyy ymmärtämään sen toiminnan, havaitsemaan virheet ja keskeyttämään sen tarvittaessa.

Käytännössä tämä tarkoittaa, että määrität kuka valvoo, milloin ja miten hän voi puuttua, ja että valvojalla on todelliset välineet ja valtuudet pysäyttää järjestelmä. Laki varoittaa erikseen automaatioharhasta, taipumuksesta luottaa koneen ehdotukseen liikaa, ja edellyttää että valvonta on aitoa eikä pelkkä muodollisuus.

Mitä laki vaatii, kohta kohdalta

Suunnittele, miten ihminen valvoo, milloin hän puuttuu ja miten järjestelmä pysäytetään. Kuvaa tämä ihmisvalvonnan asiakirjaan.

1. §1Korkean riskin järjestelmät suunnitellaan ja kehitetään siten, että luonnolliset henkilöt voivat valvoa niitä käytön aikana
2. §2Ihmisvalvonta pyrkii ennaltaehkäisemään tai minimoimaan riskit terveydelle, turvallisuudelle tai perusoikeuksille
3. §3Valvontatoimenpiteet on suhteutettava järjestelmän riskeihin, autonomian tasoon ja käyttökontekstiin; toteuttaa tarjoaja ennen markkinoille saattamista tai käyttöönottaja
4. §4Toimenpiteet käyttöönottajalle: (a) ymmärrä järjestelmän kyvyt ja rajoitukset ja seuraa sen toimintaa, (b) tiedosta automaatioharha, (c) tulkitse järjestelmän tuloste oikein, (d) päätä olla käyttämättä järjestelmää tai sivuuta, ohita tai peruuta tuloste, (e) puutu järjestelmän toimintaan tai keskeytä se
5. §5Biometrisessa etätunnistuksessa vähintään kaksi pätevää henkilöä varmistaa tunnistuksen erikseen ennen toimenpiteitä (poikkeukset lainvalvonnassa ja rajavalvonnassa)

Usein kysytyt kysymykset