Systeemisen riskin GPAI:n lisävelvoitteet
Jos mallisi on todella iso (yli 10²⁵ FLOP), päälle tulee järeämmät velvoitteet: vastakkainasettelutestaus, systeemisen riskin hallinta ja vaaratilanneraportointi.
Mistä tässä on kyse
Tämä on asetuksen raskain GPAI-kerros, ja lähes varmasti ei sinun: velvoitteet koskevat malleja, joiden koulutuslaskenta ylittää systeemisen riskin kynnyksen (suuntaa-antavasti 10²⁵ FLOP), eli kourallista maailman suurimpia toimijoita. Sinulle olennaista on, mitä saat vastineeksi toimittajaltasi: kynnyksen ylittävän mallin tarjoaja on velvollinen red team -testaamaan mallinsa, hallitsemaan systeemiriskit ja raportoimaan vakavat häiriöt AI Officelle.
Kaikkein suurimmille yleiskäyttöisille malleille tulee 53. artiklan päälle järeämmät velvoitteet. Malli katsotaan systeemisen riskin malliksi, jos sen koulutukseen on käytetty erittäin paljon laskentaa (suuntaa-antava kynnys 10^25 FLOP) tai jos komissio nimeää sen sellaiseksi.
Tällöin sinun on arvioitava ja lievennettävä systeemisiä riskejä, tehtävä vastakkainasettelutestausta (red teaming), raportoitava vakavat vaaratilanteet EU:n AI Officelle ja huolehdittava mallin kyberturvallisuudesta. Velvoitteet on tarkoitettu harvoille suurille toimijoille. Useimmat PK-yritykset eivät koskaan ylitä kynnystä.
Mitä laki vaatii, kohta kohdalta
Testaa malli (red teaming), arvioi ja lievennä systeemisiä riskejä, raportoi vakavat vaaratilanteet AI Officelle ja huolehdi kyberturvasta.
- §1.aMallin arviointi alan uusimmilla menetelmillä
- §1.bSysteemisen riskin arviointi ja lieventäminen
- §1.cVakavien vaaratilanteiden raportointi
- §1.dKyberturvavalmiudet
Usein kysytyt kysymykset
pkai tuottaa tämän artiklan vaatimat asiakirjat (Systeemisen riskin arviointi, Vaaratilanteet ja kyberturvallisuus) yrityksesi tiedoilla, noin 20 minuutissa.
Näytä artiklan tarkka rakenneteksti
Systeemisen riskin GPAI-mallin tarjoajan on Art. 53:n ja 54:n velvoitteiden LISÄKSI (1 kohta): (a) suoritettava mallin arviointi standardoiduin menetelmin, mukaan lukien vastakkainasettelutestaus (adversarial testing), systeemisten riskien tunnistamiseksi ja lieventämiseksi; (b) arvioitava ja lievennettävä mahdollisia unionin tason systeemisiä riskejä, mukaan lukien niiden lähteet; (c) seurattava, dokumentoitava ja raportoitava vakavia vaaratilanteita koskevat tiedot ja mahdolliset korjaavat toimenpiteet AI-toimistolle ja tarvittaessa kansallisille viranomaisille ilman aiheetonta viivytystä; (d) varmistettava mallin ja sen fyysisen infrastruktuurin riittävä kyberturvallisuussuoja. Vaatimustenmukaisuuden voi ennen yhdenmukaistetun standardin julkaisemista osoittaa käytännesääntöjen avulla (2 kohta); tiedot suojataan luottamuksellisesti Art. 78:n mukaisesti (3 kohta).