Riječ je o prvoj stalnoj regulatornoj strukturi u svijetu zaduženoj za provedbu obvezujućih pravila za najmoćnije modele umjetne inteligencije. Pod njezinim će se povećalom naći američke kompanije poput OpenAI-a, Anthropica i Googlea, ali i njihovi kineski konkurenti, među kojima su Moonshot AI i DeepSeek.

Jedinica djeluje unutar Ureda Europske komisije za umjetnu inteligenciju, a njezina je zadaća provjeravati kako kompanije procjenjuju i ublažavaju takozvane sistemske rizike povezane s razvojem i puštanjem najnaprednijih modela na tržište.

Europski Akt o umjetnoj inteligenciji stupio je na snagu u kolovozu 2024. godine, a pružateljima modela opće namjene s velikim učinkom nalaže procjenu i ublažavanje mogućih sistemskih rizika. Europska komisija ranije je izdvojila četiri ozbiljne prijetnje: mogućnost da umjetna inteligencija olakša kemijski, biološki ili nuklearni napad, gubitak kontrole nad modelom, izvođenje kibernetičkih napada te masovnu manipulaciju građanima, piše Politico.

Pritisak na europske regulatore porastao je nakon nedavnog slučaja u kojem je autonomni AI agent izašao iz zadanih okvira i hakirao drugu kompaniju te je taj incident ponovno otvorio pitanje koliko su postojeće sigurnosne provjere sposobne pratiti brz razvoj sve samostalnijih sustava.

Komisija sada dobiva niz alata kojima može reagirati ako zaključi da kompanije ne ispunjavaju svoje obveze. U slučaju 'ozbiljne i utemeljene sumnje na sistemski rizik' tako može zatražiti dodatne mjere zaštite, pristup informacijama i samim modelima te naložiti ograničavanje, povlačenje ili opoziv određenog sustava.

Ako kompanija odbije dostaviti tražene podatke, ne omogući pristup modelu ili ne provede naložene mjere, prijeti joj kazna do 15 milijuna eura ili tri posto ukupnog godišnjeg prihoda ostvarenog na svjetskoj razini.

Same prijetnje kaznama vjerojatno neće zaustaviti globalnu utrku u razvoju umjetne inteligencije. Ipak, nove europske ovlasti omogućit će regulatorima da se uključe u osjetljivom trenutku, neposredno prije nego što kompanije na tržište puste novi i još moćniji model.

Jedinica A3

Za nadzor najnaprednijih modela zadužena je jedna od šest jedinica u sklopu europskog Ureda za umjetnu inteligenciju. Poznata pod nazivom A3, ta je jedinica u protekle dvije godine pripremala teren za početak pune provedbe novih pravila, a prošlog ljeta objavila je kodeks postupanja koji bi najvećim svjetskim AI kompanijama trebao pomoći u ispunjavanju zakonskih obveza. No taj proces nije prošao bez problema jer je Meta odbila potpisati kodeks.

Jedinica se suočavala i s poteškoćama pri zapošljavanju. Od sredine 2024. do kraja 2025. godine nije imala stalnog voditelja, pa je upravljanje njome privremeno preuzela čelnica Ureda za umjetnu inteligenciju Lucilla Sioli.

Europska komisija u siječnju je na njezino čelo imenovala Matthieua Delesclusea, dugogodišnjeg europskog dužnosnika koji je tijekom karijere radio na telekomunikacijskoj politici, cijenama roaminga te raspodjeli europskih sredstava za tehnologiju i inovacije.

Delescluse nema izravno iskustvo u području sigurnosti umjetne inteligencije, ali doktorirao je neuroznanost na pariškom Sveučilištu Pierre i Marie Curie te studirao na Collegeu of Europe u poljskom Natolinu. Govoreći početkom godine na događaju istraživačke neprofitne organizacije FAR.ai u Londonu, poručio je da Komisija ima načine natjerati kompanije na korištenje najsuvremenijih metoda za procjenu modela i njihovih rizika.

Kako je ustvrdio, jedinica već vodi razgovore s većinom pružatelja najnaprednijih modela. 'Ako bude potrebno i primjereno, možemo otići i korak dalje – uputiti službene zahtjeve za informacijama, zatražiti pristup modelima, odrediti korektivne mjere i, u krajnjem slučaju, izreći kazne', rekao je Delescluse.

Iskustvo iz tehnološke industrije

Europska komisija ne otkriva identitete većine stručnjaka koji će provoditi istrage, pozivajući se na uobičajenu praksu prema kojoj se ne objavljuju imena službenika na nižim položajima. No poznato je nekoliko članova tima, što daje određeni uvid u njegov sastav. Delescluseu se na događaju u Londonu pridružio Simon Möller kao voditelj područja sigurnosti umjetne inteligencije.

Möller je prije dolaska u Komisiju radio za Google u Zürichu, pa jedinici donosi iskustvo iz same tehnološke industrije i poznavanje načina na koji velike kompanije razvijaju i testiraju svoje sustave. U njoj je radio i Wout Schellaert, koji je 2023. godine kao vanjski suradnik za OpenAI provodio opće sigurnosne evaluacije, a Komisiji se pridružio početkom 2025., ali je u međuvremenu napustio tu instituciju.

Privlačenje i zadržavanje dovoljno kvalificiranih stručnjaka jedan od najvećih izazova za europski Ured za umjetnu inteligenciju jer najbolji istraživači u privatnom sektoru mogu dobiti plaće koje javne institucije teško mogu pratiti. Jimmy Farrell, stručnjak za europsku politiku umjetne inteligencije u organizaciji Pour Demain, smatra da Komisiji nisu potrebna samo dodatna sredstva, već i drugačiji administrativni pristup.

Kaže da moraju ponuditi konkurentne plaće, sigurne ugovore i izravne komunikacijske kanale ako žele privući ljude sposobne nadzirati tehnološki najnaprednije kompanije na svijetu dok one zasad poručuju da su spremne na suradnju.

Tom Gordon, potpredsjednik OpenAI-a zadužen za europske javne politike, rekao je da su s europskim institucijama i drugim predstavnicima industrije sudjelovali u oblikovanju načina provedbe Akta o umjetnoj inteligenciji. 'Blisko smo surađivali i nastavit ćemo raditi zajedno. Vjerujemo da odgovorna umjetna inteligencija može pridonijeti europskoj konkurentnosti i prosperitetu', poručio je Gordon.