Riskienhallintajärjestelmä
Korkean riskin tekoälylle on oltava jatkuva, dokumentoitu prosessi, jolla tunnistat ja pienennät riskit koko elinkaaren ajan.
Mistä tässä on kyse
Kun valvoja tai iso asiakas avaa dokumenttipakettisi, riskienhallintasuunnitelma on se, josta luetaan ensimmäisenä, koska siitä näkee heti, onko vaatimustenmukaisuus tehty oikeasti vai paperilla. Yleisin virhe on tehdä riskiarvio kerran ja arkistoida se: Art. 9 vaatii elävän prosessin, joka päivittyy, kun seuranta tuottaa uutta tietoa. Hyvin tehtynä se ei ole iso urakka, puolen päivän työpaja ja puolenkymmentä rehellisesti arvioitua riskiä vie pitkälle.
Korkean riskin tekoälyltä vaaditaan riskienhallintajärjestelmä, joka ei ole kertaluontoinen raportti vaan jatkuva, dokumentoitu prosessi koko järjestelmän elinkaaren ajan. Sinun on tunnistettava terveyteen, turvallisuuteen ja perusoikeuksiin kohdistuvat tunnetut ja kohtuudella ennakoitavat riskit, arvioitava ne, tehtävä toimet niiden pienentämiseksi ja testattava, että toimet toimivat.
Laki edellyttää erikseen, että otat huomioon myös kohtuudella ennakoitavat väärinkäytökset. Et vain sitä, miten järjestelmää on tarkoitus käyttää, vaan myös miten sitä voidaan käyttää väärin. Jäännösriski on hyväksyttävä nimenomaisesti, ja alaikäisiin ja muihin haavoittuviin ryhmiin on kiinnitettävä erityistä huomiota. Kaikki tämä kootaan riskienhallintasuunnitelmaksi, joka päivittyy markkinoille saattamisen jälkeisen seurannan tuottaessa uutta tietoa.
Yleisin virhe on tehdä riskiarvio kerran ja arkistoida se.
Mitä laki vaatii, kohta kohdalta
Tunnista riskit, arvioi ne, tee toimet niiden pienentämiseksi ja testaa. Tämä kootaan riskienhallintasuunnitelmaan.
- §1Vaadittu korkean riskin järjestelmille – jatkuva, iteratiivinen prosessi koko elinkaaren ajan
- §4Vaatimusten yhdistetty soveltaminen – asianmukainen tasapaino riskien minimoinnissa (ei jäännösriskin hyväksyminen; se on 5 kohta)
- §5Jäännösriskin hyväksyminen – kunkin vaaran jäännösriski ja kokonaisjäännösriski on arvioitava hyväksyttäväksi; (a) poistaminen/vähentäminen suunnittelulla, (b) lieventämis- ja valvontatoimet, (c) tiedottaminen Art. 13 mukaisesti. Explicit before→after kontrolli.
- §9Erityishuomio alle 18-vuotiaisiin ja muihin haavoittuviin ryhmiin
- §2.aTunnetut ja kohtuudella ennakoitavat riskit terveydelle, turvallisuudelle ja perusoikeuksille käyttötarkoituksen mukaisessa käytössä
- §2.bKohtuudella ennakoitavien väärinkäytösten huomioiminen
- §2.cMarkkinoille saattamisen jälkeisen seurannan tuottamien uusien riskien arviointi
- §2.dRiskien lieventämistoimenpiteet – tasapaino suorituskyvyn ja käytettävyyden välillä
Usein kysytyt kysymykset
pkai tuottaa tämän artiklan vaatimat asiakirjat (Tekninen dokumentaatio (Annex IV), Riskienhallintasuunnitelma, Vaatimustenmukaisuuden tarkistuslista) yrityksesi tiedoilla, noin 20 minuutissa.
Näytä artiklan tarkka rakenneteksti
Korkean riskin tekoälyjärjestelmälle on perustettava, toteutettava, dokumentoitava ja ylläpidettävä riskinhallintajärjestelmä jatkuvana, iteratiivisena prosessina koko elinkaaren ajan; se edellyttää säännöllistä järjestelmällistä tarkastelua ja päivitystä. Prosessiin kuuluu (2 kohta): (a) terveyteen, turvallisuuteen ja perusoikeuksiin kohdistuvien tunnettujen ja kohtuudella ennakoitavien riskien tunnistaminen ja analysointi käyttötarkoituksen mukaisessa käytössä; (b) riskien arviointi myös kohtuudella ennakoitavissa väärinkäytöksissä; (c) markkinoille saattamisen jälkeisestä seurannasta saadun datan perusteella ilmenevien riskien arviointi; (d) asianmukaisten ja kohdennettujen riskinhallintatoimenpiteiden toteuttaminen. Kunkin vaaran jäännösriskin ja kokonaisjäännösriskin on oltava arvioitavissa hyväksyttäväksi (5 kohta): (a) poistaminen/vähentäminen suunnittelulla, (b) lieventämis- ja valvontatoimet, (c) tiedottaminen Art. 13 mukaisesti. 4 kohta koskee vaatimusten yhdistettyä soveltamista ja asianmukaista tasapainoa.