Perusoikeuksiin kohdistuvien vaikutusten arviointi (FRIA)
Julkiset toimijat sekä pankit ja vakuutusyhtiöt: teidän on arvioitava, miten tekoälypäätökset vaikuttavat ihmisten perusoikeuksiin, ennen käyttöönottoa.
Mistä tässä on kyse
Jos olet pankki, vakuutusyhtiö tai julkinen toimija ja otat käyttöön korkean riskin tekoälyä, tämä velvoite on sinun, et voi ulkoistaa sitä järjestelmän toimittajalle. Perusoikeusvaikutusten arviointi (FRIA) tehdään ennen ensimmäistä käyttökertaa, ja siinä vastataan neljään kysymykseen: keitä päätökset koskevat, mitä haittaa niistä voi seurata, kuka valvoo ja miten vahinko korjataan. Toimittajan materiaali auttaa, mutta arvion omasta käyttötilanteestasi teet itse.
Perusoikeusvaikutusten arviointi eli FRIA on käyttöönottajan velvoite: ennen kuin otat korkean riskin tekoälyn käyttöön, sinun on arvioitava, miten se voi vaikuttaa niiden ihmisten perusoikeuksiin, joita sen päätökset koskevat. Velvoite koskee julkisoikeudellisia elimiä, julkisia palveluja tarjoavia yksityisiä toimijoita sekä luotonantoa ja henki- ja sairausvakuutusta tekoälyllä tekeviä.
Arvioinnissa kuvataan järjestelmän käyttötarkoitus, kuinka usein ja miten sitä käytetään, ketkä ihmisryhmät sen piiriin kuuluvat, mitä haitallisia vaikutuksia se voi aiheuttaa sekä miten ihmisvalvonta ja lievennystoimet on järjestetty. Jos olet jo tehnyt tietosuojaa koskevan vaikutustenarvioinnin (DPIA) samalle järjestelmälle, FRIA täydentää sitä eikä toista samoja asioita.
Mitä laki vaatii, kohta kohdalta
Tee perusoikeusvaikutusten arviointi (FRIA): keitä järjestelmä koskee, mitä riskejä se aiheuttaa ja miten hallitset ne.
- §2Velvoite koskee järjestelmän ensimmäistä käyttöä; käyttöönottaja voi vastaavissa tapauksissa nojata aiempaan FRIA:an tai tarjoajan tekemään arviointiin, ja päivittää tiedot jos jokin 1 kohdan osa muuttuu
- §3Käyttöönottaja ilmoittaa arvioinnin tulokset markkinavalvontaviranomaiselle ja toimittaa Art. 27(5) mukaisen mallilomakkeen osana ilmoitusta (poikkeuksia lainvalvonta- ym. tilanteissa)
- §4DPIA-integraatio: jos DPIA tehty Art. 35 GDPR mukaisesti samalle järjestelmälle, FRIA täydentää (ei toista)
- §5AI-toimisto kehittää mallilomakkeen (kyselylomake, tarvittaessa automatisoitu työkalu) helpottamaan FRIA-velvoitteen täyttämistä yksinkertaistetusti
- §1.aJulkisoikeudellinen elin TAI yksityinen taho, joka tarjoaa julkisia palveluja
- §1.bLiite III kohta 5(b) luottokelpoisuus TAI 5(c) henki-/sairausvakuutus
- §1.cArviointi sisältää: käyttötarkoitus, käytön frekvenssi, koskettavat henkilöryhmät, riskit haitalliseen vaikutukseen, ihmisvalvonta, lievennystoimenpiteet
Usein kysytyt kysymykset
pkai tuottaa tämän artiklan vaatimat asiakirjat (Perusoikeusarviointi (FRIA)) yrityksesi tiedoilla, noin 20 minuutissa.
Näytä artiklan tarkka rakenneteksti
Ennen korkean riskin tekoälyjärjestelmän (lukuun ottamatta liitteen III kohdan 2 kriittisen infrastruktuurin järjestelmiä) käyttöönottoa perusoikeusvaikutusten arvioinnin (FRIA) tekevät: liitteen III mukaiset julkisoikeudelliset elimet ja julkisia palveluja tarjoavat yksityiset toimijat sekä liitteen III kohtien 5(b)-(c) (luottokelpoisuus, henki-/sairausvakuutus) käyttöönottajat. Arviointi kattaa: käyttöprosessin ja -tarkoituksen; käytön ajanjakson ja tiheyden; vaikutuksen kohteena olevat henkilöryhmät; erityiset haittariskit näille ryhmille; ihmisvalvontatoimenpiteet; ja toimet riskien toteutuessa. FRIA voi täydentää GDPR Art. 35 -arviointia.