Markkinoille saattamisen jälkeinen seuranta

Mistä tässä on kyse

Julkaisupäivä on lähtöviiva, ei maali. Suuririskisen tekoälyn toimintaa on seurattava järjestelmällisesti koko sen käyttöiän. Art. 72 vaatii suunnitelman, mittarit ja prosessin, jolla tosielämän havainnot (heikkenevä tarkkuus, vinoutunut hylkäysjakauma, odottamaton käyttötapa) palaavat riskienhallintaan ja korjauksiin ennen kuin niistä tulee vahinkoja. Mallit vanhenevat hiljaa, ja seuranta on tapa huomata se ajoissa.

Markkinoille saattamisen jälkeinen seuranta tarkoittaa, että tarjoaja kerää ja analysoi järjestelmällisesti tietoa siitä, miten järjestelmä toimii tosielämässä käyttöönoton jälkeen. Tavoitteena on havaita ongelmat ennen kuin niistä tulee vakavia: heikkenevä tarkkuus, uudet riskit, väärinkäyttö.

Käytännössä laadit seurantasuunnitelman, määrität mittarit, joita seuraat ja perustat prosessin, jolla seurannan havainnot ruokkivat takaisin riskienhallintaan ja järjestelmän päivityksiin. Seuranta liittyy läheisesti vakavien vaaratilanteiden raportointiin (Art. 73). Jos seuranta paljastaa vakavan häiriön, se on myös ilmoitettava viranomaiselle.

Jälkiseuranta on se artikla, joka erottaa kertaluontoisen vaatimustenmukaisuuden jatkuvasta. Ytimessä on seurantasuunnitelma, joka kuuluu tekniseen dokumentaatioon (liite IV). Se ei siis ole erillinen prosessikuvaus vaan osa sitä samaa pakettia, jonka valvoja saa käteensä.

Suunnitelmassa on kerrottava, mitä mitataan, kuinka usein, kuka katsoo ja mikä laukaisee toimenpiteen. Juuri viimeinen kohta ratkaisee. Mittari ilman kynnysarvoa ei ole seurantaa vaan raportointia. Jos tarkkuus laskee, mihin lukuun asti se on hyväksyttävää ja mitä tapahtuu kun raja ylittyy?

Seurannan on oltava oikeasuhteista riskeihin nähden. Kapean käyttötarkoituksen järjestelmässä neljännesvuosittainen katsaus ja kolme mittaria voi riittää; laajassa liitteen III käytössä tarvitaan tiheämpää seurantaa ja useampaa mittaria. Suhteellisuus on kirjattava perusteluineen, ei oletettava.

Jälkiseuranta ruokkii kahta muuta artiklaa. Se päivittää riskienhallintaa (Art. 9). Juuri siksi Art. 9 vaatii elävän prosessin, ja se on se mekanismi, joka tuottaa havainnot Art. 73:n vakavien vaaratilanteiden raportointia varten. Ilman toimivaa seurantaa vakava vaaratilanne havaitaan vasta kun asiakas soittaa.

Yleisin virhe on rakentaa seuranta teknisistä mittareista, jotka olivat jo olemassa: käytettävyys, vasteaika, virhemäärä. Ne eivät kerro mitään perusoikeusriskeistä. Seurannassa pitää olla vähintään yksi mittari, joka mittaa sitä riskiä, jonka takia järjestelmä on ylipäätään suuririskinen, esimerkiksi päätösten jakauma suojattujen ryhmien välillä.

Mitä laki vaatii, kohta kohdalta

Laadi seurantasuunnitelma, kerää tietoa järjestelmän toiminnasta käytössä, analysoi se ja päivitä järjestelmää ja riskienhallintaa havaintojen perusteella.

1. §1Tarjoajat perustavat ja dokumentoivat PMM-järjestelmän, suhteellinen riskeihin ja käyttötarkoitukseen
2. §2PMM-järjestelmä kerää, analysoi ja dokumentoi käyttöönottajien tarjoamat tiedot tai itse kerätyt tiedot suoritustasosta koko elinkaaren ajan
3. §3PMM-suunnitelma osana teknistä dokumentaatiota; komissio antaa mallin (viimeistään 2.2.2026)

Usein kysytyt kysymykset