Ihmisvalvonta
Korkean riskin tekoälyä on pystyttävä ihmisen valvomaan ja keskeyttämään. Kone ei saa päättää yksin.
Mistä tässä on kyse
Kuka teillä voi sanoa tekoälylle ei, ja onko hänellä siihen oikeasti välineet ja valtuudet? Art. 14 ei tyydy siihen, että joku 'seuraa järjestelmää': valvojan on ymmärrettävä, mitä malli tekee, havaittava virheet ja pystyttävä ohittamaan tai pysäyttämään se. Laki nimeää erikseen automaatioharhan eli taipumuksen hyväksyä koneen ehdotus rutiinilla. Muodollinen valvonta ei ole valvontaa lainkaan: jos ihminen vain klikkaa aina hyväksy, kone päättää silti yksin.
Ihmisen on pystyttävä valvomaan korkean riskin tekoälyä koko sen käytön ajan. Ihmisiin vaikuttavia ratkaisuja ei saa jättää pelkän koneen varaan. 14. artikla edellyttää, että järjestelmä suunnitellaan niin, että ihminen pystyy ymmärtämään sen toiminnan, havaitsemaan virheet ja keskeyttämään sen tarvittaessa.
Käytännössä määrität, kuka valvoo, milloin ja miten hän voi puuttua ja mitkä välineet hänellä on järjestelmän pysäyttämiseen. Laki varoittaa erikseen automaatioharhasta, taipumuksesta luottaa koneen ehdotukseen liikaa. Valvonnan on oltava aitoa, ei pelkkä muodollisuus.
Mitä laki vaatii, kohta kohdalta
Suunnittele, miten ihminen valvoo, milloin hän puuttuu ja miten järjestelmä pysäytetään. Kuvaa tämä ihmisvalvonnan asiakirjaan.
- §1Korkean riskin järjestelmät suunnitellaan ja kehitetään siten, että luonnolliset henkilöt voivat valvoa niitä käytön aikana
- §2Ihmisvalvonta pyrkii ennaltaehkäisemään tai minimoimaan riskit terveydelle, turvallisuudelle tai perusoikeuksille
- §3Valvontatoimenpiteet on suhteutettava järjestelmän riskeihin, autonomian tasoon ja käyttökontekstiin; toteuttaa tarjoaja ennen markkinoille saattamista tai käyttöönottaja
- §4Toimenpiteet käyttöönottajalle: (a) ymmärrä järjestelmän kyvyt ja rajoitukset ja seuraa sen toimintaa, (b) tiedosta automaatioharha, (c) tulkitse järjestelmän tuloste oikein, (d) päätä olla käyttämättä järjestelmää tai sivuuta, ohita tai peruuta tuloste, (e) puutu järjestelmän toimintaan tai keskeytä se
- §5Biometrisessa etätunnistuksessa vähintään kaksi pätevää henkilöä varmistaa tunnistuksen erikseen ennen toimenpiteitä (poikkeukset lainvalvonnassa ja rajavalvonnassa)
Usein kysytyt kysymykset
pkai tuottaa tämän artiklan vaatimat asiakirjat (Tekninen dokumentaatio (Annex IV), Ihmisvalvonnan kuvaus, Vaatimustenmukaisuuden tarkistuslista, Perusoikeusarviointi (FRIA)) yrityksesi tiedoilla, noin 20 minuutissa.
Näytä artiklan tarkka rakenneteksti
Korkean riskin tekoälyjärjestelmät on suunniteltava ja kehitettävä siten, että luonnolliset henkilöt voivat tosiasiallisesti valvoa niitä käytön aikana asianmukaisin käyttöliittymävalinein. Valvonnalla ehkäistään tai minimoidaan terveyteen, turvallisuuteen ja perusoikeuksiin kohdistuvia riskejä. Valvojan on voitava: ymmärtää järjestelmän kyvyt ja rajoitukset ja seurata sen toimintaa; tunnistaa ja käsitellä automaatioharhaa; tulkita tuotos oikein; päättää olla käyttämättä järjestelmää tai sivuuttaa/kumota/peruuttaa sen tuotos; ja pysäyttää järjestelmä (stop-toiminto).