Nova pravila donose strože zahtjeve za razvoj i korištenje umjetne inteligencije, a njihov je cilj povećati transparentnost, zaštititi građane od obmane i smanjiti rizike koje donose sve napredniji AI sustavi.

Najveća promjena koju će korisnici odmah primijetiti jest da chatbotovi i drugi AI sustavi moraju jasno dati do znanja da korisnik razgovara s umjetnom inteligencijom, a ne sa stvarnom osobom.

AI fotografije i videozapisi morat će biti označeni

Nova pravila odnose se i na sadržaj koji generira umjetna inteligencija. To znači da će AI generirane ili izmijenjene fotografije, videozapisi i audiozapisi, uključujući tzv. deepfake sadržaj, morati biti jasno označeni. Osim vidljivih oznaka, sadržaj će morati sadržavati i strojno čitljive oznake kako bi ga digitalni alati mogli lakše prepoznati i razlikovati od autentičnog sadržaja.

Europska komisija smatra da će takva pravila pomoći građanima da lakše prepoznaju kada gledaju sadržaj koji nije stvaran te tako smanjiti mogućnost manipulacije i širenja dezinformacija.

Komisija je objavila i prvi popis s više od 180 organizacija koje su potpisale Kodeks dobre prakse za transparentnost sadržaja generiranog umjetnom inteligencijom.

Stroža pravila za najmoćnije AI modele

Provedbom Akta o umjetnoj inteligenciji Europska komisija dobiva ovlasti za nadzor pružatelja tzv. modela umjetne inteligencije opće namjene (General Purpose AI), odnosno sustava koji mogu obavljati velik broj različitih zadataka i koriste se u brojnim aplikacijama. Poseban nadzor odnosit će se na najnaprednije modele koji mogu predstavljati sistemski rizik.

Njihovi će pružatelji morati dokazati da su procijenili i ublažili moguće opasnosti poput:

• kibernetičkih napada,
• kemijskih, bioloških, radioloških i nuklearnih prijetnji,
• manipulacije korisnicima,
• zlouporabe za kaznena djela,
• ugrožavanja temeljnih ljudskih prava,
• gubitka ljudske kontrole nad AI sustavima.

Veća transparentnost u razvoju umjetne inteligencije

Tvrtke koje razvijaju modele umjetne inteligencije moraju nadležnim tijelima dostaviti dokumentaciju o svojim sustavima, imati politiku zaštite autorskih prava te objaviti dovoljno detaljan sažetak podataka korištenih za treniranje modela.

Time Europska unija želi povećati odgovornost tvrtki koje razvijaju umjetnu inteligenciju i omogućiti bolji nadzor nad načinom na koji nastaju AI modeli.

Zabranjuju se posebno opasni AI sustavi

Akt o umjetnoj inteligenciji zabranjuje i određene prakse koje se smatraju neprihvatljivima.

Među njima su sustavi koji:

• manipuliraju ljudskim ponašanjem,
• iskorištavaju ranjive skupine,
• provode nepravedno ocjenjivanje građana koje može ugroziti njihova prava.

Tko će nadzirati provedbu?

Za provedbu novih pravila bit će zaduženi Ured Europske komisije za umjetnu inteligenciju (koji će nadzirati najveće AI modele i sustave integrirane u velike internetske platforme), nacionalna nadležna tijela država članica za ostale AI sustave, Europski nadzornik za zaštitu podataka (koji će nadzirati korištenje umjetne inteligencije u institucijama Europske unije).

U provedbi će im pomagati i Znanstveni odbor sastavljen od 60 neovisnih stručnjaka za umjetnu inteligenciju, dok je za glavnog znanstvenog savjetnika Ureda imenovan profesor Alessandro Abate sa Sveučilišta u Oxfordu.

Građani će moći prijaviti kršenje pravila

Europska komisija pokrenula je i nekoliko novih digitalnih alata.

Građani i tvrtke moći će putem posebnog sustava prijaviti sumnju na kršenje Akta o umjetnoj inteligenciji, dok će osobe koje rade u AI industriji imati mogućnost anonimnog prijavljivanja nepravilnosti putem posebnog kanala za zviždače.

Kako umjetna inteligencija postaje sve prisutnija u svakodnevnom životu, Europska unija želi osigurati da se razvija i koristi na siguran i odgovoran način.

Nova pravila trebala bi povećati transparentnost, smanjiti mogućnost zlouporabe AI tehnologije te građanima i poduzećima pružiti veće povjerenje u alate koji će u budućnosti imati sve važniju ulogu u društvu.

Treba istaknuti kako je primjena pravila za visokorizične sustave umjetne inteligencije odgođena do 2. prosinca 2027., a za takve sustave integrirane u regulirane proizvode do 2. kolovoza 2028.

Nove zabrane za sustave koji bez pristanka generiraju seksualno eksplicitan sadržaj i materijale koji sadržavaju seksualno zlostavljanje djece počet će se primjenjivati 2. prosinca 2026.