'Druga prijelomna točka našeg vremena je umjetna inteligencija', poručila je Ursula von der Leyen obraćajući se europskim zastupnicima. Istaknula je da AI ubrzano postaje temeljni sloj europskog gospodarstva i sigurnosti. Europska unija, kaže Von der Leyen, želi iskoristiti tehnologiju kako bi unaprijedila društvo, kvalitetu života i produktivnost.

'Optimistična sam da umjetna inteligencija može koristiti čovječanstvu – ako stvari postavimo ispravno', rekla je Von der Leyen. Upozorila je, međutim, da tako moćna tehnologija donosi i brojne rizike koje Europa ne smije zanemariti. 'Ne suočimo li se s tim rizicima, nikada nećemo moći u potpunosti iskoristiti mogućnosti umjetne inteligencije', naglasila je.

'Omogućit će hakiranje kakvo nismo mogli zamisliti'

Kako najnapredniji AI modeli postaju sposobniji, opasnosti povezane s njihovom uporabom postaju sve vidljivije, upozorila je predsjednica Komisije. 'Modeli koji se sada razvijaju omogućit će hakiranje na razini za koju nikada nismo mislili da je moguća. Uskoro će se naći i u rukama protivnika koji svijet vide sasvim drukčije od nas', rekla je.

Izdvojila je opasnost modela koji se mogu samostalno unapređivati. Kao upozorenje navela je incidente u kojima su AI agenti izlazili iz svojih kontroliranih okruženja ili ubacivali zlonamjerni računalni kod. 'Ti su incidenti tek naznaka onoga što bi se moglo dogoditi', poručila je.

Von der Leyen osvrnula se i na incident povezan s platformom Hugging Face, nakon kojeg su, kako je rekla, programeri počeli otvoreno upozoravati na opasnosti. Dodala je da čelnici najnaprednijih kompanija sada poručuju kako je potrebno usporiti razvoj sustava sposobnih unapređivati vlastite sposobnosti.

'Ako su ljudi koji razvijaju tu tehnologiju jasni, onda i mi moramo biti jasni', kazala je.

Najavila razgovore s vodećim AI laboratorijima

Von der Leyen naglasila je da je europski Akt o umjetnoj inteligenciji ključan za postavljanje zaštitnih ograda te da Europskoj uniji omogućuje utjecaj na oblikovanje globalnog odgovora na rizike nove tehnologije. Najavila je suradnju s državama koje dijele europski pristup, uključujući Kanadu i Ujedinjeno Kraljevstvo.

Suradnja bi obuhvatila procjenjivanje i provjeravanje AI modela, razvoj sustava ranog upozoravanja, jačanje sigurnosti umjetne inteligencije te druga područja povezana s nadzorom najnaprednijih sustava.

'Pozvat ću vodeće laboratorije koji razvijaju najnaprednije modele na razgovor o tome kako možemo podržati napore industrije usmjerene na usporavanje njihova razvoja', najavila je Von der Leyen.