Läpinäkyvyys ja tiedonanto käyttöönottajille
Korkean riskin järjestelmän mukana on toimitettava selkeät käyttöohjeet, jotta käyttäjä osaa käyttää sitä oikein ja turvallisesti.
Mistä tässä on kyse
Käyttöohje on korkean riskin tekoälyn kohdalla oikeudellinen asiakirja, ei markkinointiesite: sen perusteella asiakkaasi päättää, sopiiko järjestelmä hänen käyttöönsä, ja sen varassa hän täyttää omat velvoitteensa. Jos ohjeesi lupaavat enemmän kuin järjestelmä osaa, tai vaikenevat rajoituksista, ongelmasta tulee sinun. Rehellinen rajoitusten kuvaus on tarjoajan paras vakuutus.
Korkean riskin järjestelmän tarjoajan on toimitettava sen mukana selkeät käyttöohjeet, jotta käyttöönottaja osaa käyttää järjestelmää oikein ja turvallisesti. Kyse ei ole markkinointimateriaalista vaan täsmällisestä teknisestä ohjeesta.
Ohjeista on käytävä ilmi muun muassa järjestelmän käyttötarkoitus, sen tarkkuus- ja suorituskykytasot, tunnetut rajoitukset ja riskit, ihmisvalvonnan järjestäminen sekä se, miten järjestelmää ylläpidetään. Tavoitteena on, että käyttöönottaja pystyy ohjeiden perusteella arvioimaan, sopiiko järjestelmä hänen tilanteeseensa ja miten sitä on valvottava.
Mitä laki vaatii, kohta kohdalta
Laadi käyttöohjeet: mihin järjestelmä on tarkoitettu, mitkä ovat sen rajat, miten ihminen valvoo sitä ja mitä virhetilanteissa tehdään.
- §1Käyttöohjeet, jotka mahdollistavat käyttöönottajien tulkita tulosteet ja käyttää järjestelmää asianmukaisesti
- §3Käyttöohjeissa: ominaisuudet, kyvyt ja rajoitukset; tarkkuusmetriikat; tunnetut riskit; tekninen suunnittelu; tekninen ympäristö; ihmisvalvontatoimenpiteet
- §3.aTarjoajan ja tarvittaessa sen valtuutetun edustajan henkilöllisyys ja yhteystiedot
- §3.bJärjestelmän ominaisuudet, kyvyt ja suorituskyvyn rajoitukset (käyttötarkoitus, tarkkuustaso, vakaus, kyberturvallisuus, tunnetut riskit, suorituskyky kohderyhmittäin, syötedatan vaatimukset)
- §3.cTarjoajan ennalta määrittämät muutokset järjestelmään ja sen suorituskykyyn
- §3.dIhmisvalvontatoimenpiteet ja tekniset toimenpiteet, jotka helpottavat tulosten tulkintaa
- §3.eTarvittavat laskenta- ja laitteistoresurssit, odotettu elinkaari sekä ylläpito- ja päivitysvaatimukset
- §3.fMekanismit, joiden avulla käyttöönottajat voivat kerätä, tallentaa ja tulkita lokitietoja
Usein kysytyt kysymykset
pkai tuottaa tämän artiklan vaatimat asiakirjat (Tekninen dokumentaatio (Annex IV), Ihmisvalvonnan kuvaus, Vaatimustenmukaisuuden tarkistuslista) yrityksesi tiedoilla, noin 20 minuutissa.
Näytä artiklan tarkka rakenneteksti
Korkean riskin järjestelmät on suunniteltava ja kehitettävä siten, että niiden toiminta on riittävän läpinäkyvää, jotta käyttöönottajat voivat tulkita tuotoksia ja käyttää niitä asianmukaisesti (1 kohta). Järjestelmän mukana on toimitettava käyttöohjeet asianmukaisessa muodossa, ja niiden on oltava tiiviitä, täydellisiä, virheettömiä ja selkeitä (2 kohta). Käyttöohjeiden on sisällettävä vähintään (3 kohta): (a) tarjoajan ja tapauksen mukaan valtuutetun edustajan tunnistetiedot ja yhteystiedot; (b) järjestelmän ominaisuudet, kyvyt ja suorituskyvyn rajat: käyttötarkoitus; tarkkuuden (ml. mittarit), vakauden ja kyberturvallisuuden tasot, joita vasten järjestelmä on testattu ja validoitu, sekä näihin mahdollisesti vaikuttavat ennakoitavissa olevat olosuhteet; tiedossa olevat tai ennakoitavissa olevat olosuhteet, jotka voivat johtaa riskeihin (ml. kohtuudella ennakoitavissa oleva väärinkäyttö); tapauksen mukaan tekniset valmiudet tuotosten selittämiseen; suorituskyky tiettyjen henkilöiden tai henkilöryhmien osalta; syöttödataa koskevat eritelmät tai muut merkitykselliset tiedot koulutus-, validointi- ja testausdatajoukoista; tapauksen mukaan tiedot tuotosten tulkitsemisen mahdollistamiseksi; (c) tarjoajan ennalta määrittämät muutokset; (d) Art. 14:n mukaiset ihmisvalvontatoimenpiteet, mukaan lukien tekniset toimenpiteet tuotosten tulkinnan helpottamiseksi; (e) tarvittavat laskenta- ja laitteistoresurssit, odotettu elinkaari sekä ylläpito- ja huoltotoimenpiteet (ml. ohjelmistopäivitykset); (f) tapauksen mukaan mekanismit, joiden avulla käyttöönottaja voi kerätä, tallentaa ja tulkita lokeja (Art. 12).