Europska unija istražuje OpenAI i Anthropic zbog agenata umjetne inteligencije koji su hakirali vanjske organizacije, zbog čega se postavlja pitanja o tome pokriva li europski Zakon o AI odmetnute AI modele.

Europska komisija kreće u provedbu svojih novih pravila na vodeće AI laboratorije nakon niza incidenata, rekla je Henna Virkkunen, povjerenica Unije za digitalnu politiku.

No, primjena pravilnika daleko je od jednostavne, a ovi rani slučajevi postavit će važne presedane.

'Naš Ured za AI počeo je provoditi ta pravila i poslao zahtjeve za informacijama koji se odnose na pitanja poput sigurnosti, vanjske evaluacije i praćenja načina korištenja modela', rekla je Virkkunen.

Istrage se odnose na incident u kojem je OpenAI-jev agent pobjegao iz svog testnog okruženja kako bi hakirao platformu Hugging Face i na incident u kojem je Anthropic model dobio neovlašteni pristup trima vanjskim organizacijama. Oba incidenta dogodila su se tijekom ljeta. Ured za umjetnu inteligenciju poslao je svoje zahtjeve nakon što je ocijenio dokumente koje su dvije tvrtke dobrovoljno otkrile nedovoljnima.

Od kolovoza Ured za umjetnu inteligenciju ima ovlasti za provedbu zakona prema Zakonu o AI. No, pravni stručnjaci osporavaju ovlasti Komisije za istragu jer su se incidenti dogodili tijekom testiranja, prije nego što su modeli stavljeni na tržište Unije. Stoga se odredbe zakona ne odnose na njih.

Zakon uključuje izuzeće za istraživanje i razvoj koje pokriva istraživanje, testiranje i razvoj. Komisija promovira šire tumačenje koje bi Uredu za umjetnu inteligenciju omogućilo da pod određenim okolnostima nadzire i fazu razvoja.

'Nećemo provoditi propise u fazi testiranja. Ali ako model umjetne inteligencije izađe iz okruženja za testiranje, a zatim ima utjecaj na tržište Unije, kao što je bio slučaj s Hugging Faceom, tada Zakon o umjetnoj inteligenciji postaje provediv', rekao je dužnosnik Komisije za Euronews pod uvjetom anonimnosti.

Hugging Face ima globalne operacije, hostirajući modele umjetne inteligencije i skupove podataka koje programeri koriste globalno. Kao rezultat toga, incident s OpenAI-jem utjecao je i na kupce u Unije. Komisija to uspoređuje s virusom koji bježi iz laboratorija: tvrtka očito nije uspjela uvesti odgovarajuće mjere za ublažavanje rizika i šteti drugima.

Izvršna vlast Unije odlučna je provesti svoja pravila kada agenti pobjegnu iz svog testnog okruženja, u onome što bi mogla biti prva pravna bitka Bruxellesa u prisiljavanju laboratorija Silicijske doline na uzimanje u obzir sigurnosti već u fazi razvoja.