Tarkkuus, vakaus ja kyberturvallisuus
Korkean riskin tekoälyn on oltava riittävän tarkka, toimittava luotettavasti myös häiriötilanteissa ja kestettävä siihen kohdistuvia kyberhyökkäyksiä.
Mistä tässä on kyse
Kolme kysymystä, joihin valvoja haluaa luvut eikä adjektiiveja: kuinka tarkka järjestelmäsi on, mitä se tekee kun jokin menee rikki, ja kestääkö se tahallista harhautusta? Art. 15 vaatii ilmoitetut tarkkuustasot, vikasietoisen toiminnan ja suojan tekoälylle ominaisia hyökkäyksiä vastaan (datan myrkytys, manipuloidut syötteet). 'Toimii hyvin' ei ole tarkkuustaso.
15. artikla asettaa kolme teknistä vaatimusta, jotka kulkevat käsi kädessä. Järjestelmän on toimittava riittävän tarkasti käyttötarkoitukseensa nähden, ja sen tarkkuustasot on ilmoitettava käyttöohjeissa, ei luvata enempää kuin järjestelmä todella osaa. Tarkkuus on myös pidettävä johdonmukaisena koko elinkaaren ajan.
Vakaus (robustness) tarkoittaa, että järjestelmä kestää virheet, häiriöt ja odottamattomat tilanteet kaatumatta tai tuottamatta vaarallisia tuloksia, esimerkiksi varajärjestelyin ja vikasietoisuudella. Kyberturvallisuus puolestaan suojaa nimenomaan tekoälylle ominaisilta hyökkäyksiltä, kuten koulutusdatan myrkyttämiseltä tai mallin harhauttamiselta muokattuja syötteitä antamalla. Nämä on suunniteltava sisään alusta asti, ei liimattava päälle jälkikäteen.
Mitä laki vaatii, kohta kohdalta
Määritä ja ilmoita järjestelmän tarkkuustaso, varmista että se kestää virheet ja häiriöt, ja suojaa se tekoälylle ominaiselta manipuloinnilta.
- §1Asianmukainen tarkkuus-, vakaus- ja kyberturvallisuustaso koko elinkaaren ajan
- §2Komissio edistää yhdessä AI-toimiston kanssa vertailuarvojen ja mittausmenetelmien kehittämistä tarkkuuden ja vakauden mittaamiseksi
- §3Tarkkuustaso ja relevantit metriikat ilmoitetaan käyttöohjeissa
- §4Vakaus ja häiriönsieto: tekninen redundanssi, varajärjestelyt ja vikaturvalliset ratkaisut; jatkuvasti oppivien järjestelmien vinoutuneiden palautesilmukoiden estäminen
- §5Kyberturvallisuus ja suojautuminen hyökkäyksiltä (mallin myrkytys, kiertohyökkäykset, luottamuksellisuushyökkäykset)
Usein kysytyt kysymykset
pkai tuottaa tämän artiklan vaatimat asiakirjat (Tekninen dokumentaatio (Annex IV), Riskienhallintasuunnitelma, Markkinoille saattamisen jälkeinen seuranta, Vaatimustenmukaisuuden tarkistuslista, Datanhallinnan kuvaus) yrityksesi tiedoilla, noin 20 minuutissa.
Näytä artiklan tarkka rakenneteksti
Korkean riskin järjestelmät on suunniteltava ja kehitettävä siten, että ne saavuttavat asianmukaisen tarkkuuden, vakauden ja kyberturvallisuuden tason ja toimivat näiltä osin johdonmukaisesti koko elinkaarensa ajan (1 kohta). Komissio edistää vertailuarvojen ja mittausmenetelmien kehittämistä (2 kohta). Tarkkuustasot ja asiaankuuluvat tarkkuusmittarit on ilmoitettava käyttöohjeissa (3 kohta). Järjestelmien on oltava mahdollisimman vikasietoisia virheiden, vikojen ja epäjohdonmukaisuuksien suhteen; tekninen ja organisatorinen varautuminen (esim. varmuuskopiointi- ja vikasietoratkaisut); käytön aikana oppivien järjestelmien osalta on käsiteltävä mahdollisesti vinoutuneiden tuotosten syötteenä käyttämisen riski (palautesilmukat) asianmukaisin lieventämistoimin (4 kohta). Järjestelmien on kestettävä kolmansien osapuolten luvattomat yritykset muuttaa käyttöä, tuotoksia tai suorituskykyä haavoittuvuuksia hyödyntämällä; kyberturvallisuusratkaisujen on oltava oikeassa suhteessa riskeihin, ja niiden on katettava tapauksen mukaan toimenpiteet datan myrkytystä, mallin myrkytystä, adversariaalisia syötteitä (mallin kiertäminen), luottamuksellisuushyökkäyksiä ja mallivirheitä vastaan (5 kohta).