Läpinäkyvyys ja tiedonanto käyttöönottajille
Suuririskisen järjestelmän mukana on toimitettava selkeät käyttöohjeet, jotta käyttäjä osaa käyttää sitä oikein ja turvallisesti.
Mistä tässä on kyse
Käyttöohje on suuririskisen tekoälyn kohdalla oikeudellinen asiakirja, ei markkinointiesite. Sen perusteella asiakkaasi päättää, sopiiko järjestelmä hänen käyttöönsä, ja sen varassa hän täyttää omat velvoitteensa. Jos ohjeesi lupaavat enemmän kuin järjestelmä osaa tai vaikenevat rajoituksista, ongelma on lopulta sinun. Rehellinen rajoitusten kuvaus on tarjoajan paras vakuutus.
Suuririskisen järjestelmän tarjoajan on toimitettava sen mukana selkeät käyttöohjeet, jotta käyttöönottaja osaa käyttää järjestelmää oikein ja turvallisesti. Siksi se kirjoitetaan kuin sopimus: täsmällisesti ja rajat myöntäen, ei kuin esite.
Ohjeista on käytävä ilmi muun muassa järjestelmän käyttötarkoitus, sen tarkkuus- ja suorituskykytasot, tunnetut rajoitukset ja riskit, ihmisvalvonnan järjestäminen sekä se, miten järjestelmää ylläpidetään. Tavoitteena on, että käyttöönottaja pystyy ohjeiden perusteella arvioimaan, sopiiko järjestelmä hänen tilanteeseensa ja miten sitä on valvottava.
Käyttöohjeet ovat Art. 13:n konkreettinen tuotos, ja niiden sisältö on lueteltu laissa: tarjoajan yhteystiedot, järjestelmän ominaisuudet ja suorituskyvyn rajat, ennalta määritetyt muutokset, ihmisvalvontatoimenpiteet, odotettu elinkaari sekä ylläpito- ja huoltotoimet. Tämä on siis asiakirja, jonka sisällysluettelo on kirjoitettu valmiiksi, ei vapaamuotoinen esite.
Ratkaiseva ja useimmin ohitettu kohta on suorituskyvyn rajat. Ei riitä kertoa, että järjestelmä on tarkka. On kerrottava myös, missä oloissa se EI ole. Jos malli on koulutettu suomenkielisellä datalla, se on sanottava. Jos tarkkuus laskee alle 500 tapahtuman aineistoilla, se on sanottava. Käyttöönottaja ei voi täyttää omaa Art. 26:n velvoitettaan, jos hän ei tiedä, missä raja menee, ja silloin vika on sinun.
Toinen aliarvioitu kohta on ihmisvalvonta. Art. 14 velvoittaa sinut suunnittelemaan valvontamahdollisuuden järjestelmään; Art. 13 velvoittaa sinut kertomaan käyttöönottajalle, miten sitä käytetään. Käytännössä tämä tarkoittaa nimenomaista ohjetta siitä, mistä ihminen näkee ehdotuksen perusteet, miten hän ohittaa sen ja mitä ohitus tallentaa lokiin.
Yleisin virhe on kirjoittaa käyttöohje markkinointiaineiston pohjalta. Silloin siitä tulee lista kyvyistä ilman yhtään rajaa, ja se on juuri se asiakirja, joka valvonnassa kääntyy sinua vastaan. Siinä lukee, mitä luvattiin, ei mitä testattiin. Toinen yleinen virhe on toimittaa ohje vain ostohetkellä. Ohjeen on oltava ajan tasalla myös silloin, kun järjestelmää on päivitetty.
Ei riitä kertoa, että järjestelmä on tarkka. On kerrottava myös, missä oloissa se ei ole.
Mitä laki vaatii, kohta kohdalta
Laadi käyttöohjeet: mihin järjestelmä on tarkoitettu, mitkä ovat sen rajat, miten ihminen valvoo sitä ja mitä virhetilanteissa tehdään.
- §1Käyttöohjeet, jotka mahdollistavat käyttöönottajien tulkita tulosteet ja käyttää järjestelmää asianmukaisesti
- §3Käyttöohjeissa: ominaisuudet, kyvyt ja rajoitukset; tarkkuusmetriikat; tunnetut riskit; tekninen suunnittelu; tekninen ympäristö; ihmisvalvontatoimenpiteet
- §3.aTarjoajan ja tarvittaessa sen valtuutetun edustajan henkilöllisyys ja yhteystiedot
- §3.bJärjestelmän ominaisuudet, kyvyt ja suorituskyvyn rajoitukset (käyttötarkoitus, tarkkuustaso, vakaus, kyberturvallisuus, tunnetut riskit, suorituskyky kohderyhmittäin, syötedatan vaatimukset)
- §3.cTarjoajan ennalta määrittämät muutokset järjestelmään ja sen suorituskykyyn
- §3.dIhmisvalvontatoimenpiteet ja tekniset toimenpiteet, jotka helpottavat tulosten tulkintaa
- §3.eTarvittavat laskenta- ja laitteistoresurssit, odotettu elinkaari sekä ylläpito- ja päivitysvaatimukset
- §3.fMekanismit, joiden avulla käyttöönottajat voivat kerätä, tallentaa ja tulkita lokitietoja
Usein kysytyt kysymykset
pkai tuottaa tämän artiklan vaatimat asiakirjat (Tekninen dokumentaatio (liite IV), Ihmisvalvonnan kuvaus, Vaatimustenmukaisuuden tarkistuslista) yrityksesi tiedoilla, noin 20 minuutissa.
Näytä artiklan sisältö tiivistettynä
Suuririskiset järjestelmät on suunniteltava ja kehitettävä siten, että niiden toiminta on riittävän läpinäkyvää, jotta käyttöönottajat voivat tulkita tuotoksia ja käyttää niitä asianmukaisesti (1 kohta). Järjestelmän mukana on toimitettava käyttöohjeet asianmukaisessa muodossa, ja niiden on oltava tiiviitä, täydellisiä, virheettömiä ja selkeitä (2 kohta). Käyttöohjeiden on sisällettävä vähintään (3 kohta): (a) tarjoajan ja tapauksen mukaan valtuutetun edustajan tunnistetiedot ja yhteystiedot; (b) järjestelmän ominaisuudet, kyvyt ja suorituskyvyn rajat: käyttötarkoitus; tarkkuuden (ml. mittarit), vakauden ja kyberturvallisuuden tasot, joita vasten järjestelmä on testattu ja validoitu, sekä näihin mahdollisesti vaikuttavat ennakoitavissa olevat olosuhteet; tiedossa olevat tai ennakoitavissa olevat olosuhteet, jotka voivat johtaa riskeihin (ml. kohtuudella ennakoitavissa oleva väärinkäyttö); tapauksen mukaan tekniset valmiudet tuotosten selittämiseen; suorituskyky tiettyjen henkilöiden tai henkilöryhmien osalta; syöttödataa koskevat eritelmät tai muut merkitykselliset tiedot koulutus-, validointi- ja testausdatajoukoista; tapauksen mukaan tiedot tuotosten tulkitsemisen mahdollistamiseksi; (c) tarjoajan ennalta määrittämät muutokset; (d) Art. 14:n mukaiset ihmisvalvontatoimenpiteet, mukaan lukien tekniset toimenpiteet tuotosten tulkinnan helpottamiseksi; (e) tarvittavat laskenta- ja laitteistoresurssit, odotettu elinkaari sekä ylläpito- ja huoltotoimenpiteet (ml. ohjelmistopäivitykset); (f) tapauksen mukaan mekanismit, joiden avulla käyttöönottaja voi kerätä, tallentaa ja tulkita lokeja (Art. 12).
Tämä on artiklan sisältö tiivistettynä, ei sanatarkka lainaus. Sitova sanamuoto on EUR-Lexin virallisessa suomennoksessa, joka on linkitetty yllä.