Na sastanku foruma APEC u listopadu, kineski predsjednik Xi Jinping ponovio je prijedlog da se osnuje Svjetska organizacija za suradnju u umjetnoj inteligenciji (WAICO), tijelo koje bi okupilo države kao korak prema izgradnji globalnog sustava upravljanja AI-em.

Prijedlog je dio šireg kineskog nastojanja da preuzme kormilo u uspostavi međunarodnih pravila za AI, za razliku od Sjedinjenih Država, koje sve više naginju deregulaciji. 'Kina je trenutačno 'dobar dečko' kada govorimo o transparentnosti i AI politici', rekla je u listopadu računalna znanstvenica Wendy Hall sa Sveučilišta Southampton na događaju u Londonu.

Mnogi izazovi stoje na putu stvaranju obvezujućeg međuvladinog sporazuma o AI-u, ali neki stručnjaci tvrde da je to moguće, uspoređujući tehnologiju s drugim rizičnim, ali ključnim područjima za koja međunarodni ugovori već postoje, poput nuklearne energije ili civilnog zrakoplovstva.

Nature je analizirao kineski pristup, mogući izgled globalnog tijela za upravljanje AI-em i šanse da takav sustav uistinu zaživi.

Kako se kineski AI ekosustav razlikuje od drugih?

Potaknut državnim politikama, kineski tehnološki sektor sve češće objavljuje modele kao open weight, otvorene modele čije se unutarnje postavke mogu slobodno preuzeti i nadograđivati. Za razliku od Zapada, Kina manje naglasak stavlja na razvoj opće umjetne inteligencije (AGI), strojeva sposobnih nadmašiti čovjeka u širokom spektru zadataka.

Umjesto toga, prioritet je korištenje AI-a za ekonomski rast. Taj pristup oslikava i politika AI+, uvedena u kolovozu, objašnjava Kwan Yee Ng, voditelj međunarodnog upravljanja AI-em u pekinškoj konzultantskoj kući Concordia AI, specijaliziranoj za sigurnost umjetne inteligencije.

Kina je među prvim državama koje su uvele propise posebno usmjerene na AI, počevši s time 2022. godine, te ima široke regulative o štetnom sadržaju, privatnosti i sigurnosti podataka. Oni koji razvijaju javno dostupne AI usluge dužni su svoje modele dati regulatorima na testiranje prije puštanja u rad, kaže Ng.

Zbog toga su modeli poput onih tvrtke DeepSeek iz Hangzhoua - koja je ove godine stekla globalnu slavu modelom R1 - među 'najstrože reguliranima na svijetu', tvrdi Joanna Bryson, računalna znanstvenica i stručnjakinja za AI etiku iz škole Hertie u Berlinu.

Unatoč strogim pravilima, kineske vlasti često primjenjuju tzv. meki pristup provedbi, kaže Angela Zhang, pravna stručnjakinja za AI regulaciju sa Sveučilišta Južne Kalifornije.

Sjedinjene Države, suprotno tome, nemaju sveobuhvatan savezni zakon o AI-u. U siječnju je predsjednik Donald Trump ukinuo izvršnu uredbu o sigurnosti AI-a, a njegova se administracija pozicionirala kao izrazito industrijski orijentirana. Nedavno je na društvenim mrežama najavio dodavanje klauzule u savezni zakon kako bi se spriječilo da pojedine savezne države samostalno reguliraju AI.

Europska unija primjenjuje pristup temeljen na razvrstavanju sustava po rizicima te on zahtijeva različite razine nadzora i transparentnosti. Obveze za najmoćnije AI sustave stupile su na snagu u kolovozu ove godine, a britanska vlada odgodila je planove za donošenje sveobuhvatnog zakona o AI-u barem do iduće godine.

Koja međunarodna pravila trenutačno postoje?

Jedina pravno obvezujuća međunarodna regulativa dolazi iz Vijeća Europe, koje je u svibnju 2024. usvojilo svoj Okvirni sporazum o AI-u. Ugovor obvezuje potpisnice da u nacionalno zakonodavstvo uključe široka načela, primjerice usklađivanje AI aktivnosti s ljudskim pravima. No ne predviđa sankcije niti nadnacionalno tijelo za provedbu, objašnjava Lucia Velasco, ekonomistica i istraživačica u AI Governance Initiative Oxford Martin Schoola.

Države i kompanije potpisale su i niz neobvezujućih deklaracija, uključujući UNESCO-ve preporuke o etici AI-a, OECD-ova AI načela i Deklaraciju iz Bletchleyja, koju je 2023. potpisalo 28 država na britanskom AI Safety Summitu. Stručne skupine izdale su i niz analitičkih dokumenata o rizicima, među kojima se ističe International AI Safety Report.

UN trenutačno vodi 'dijalog' o AI-u i pokrenuo je znanstveni panel koji bi državama trebao pomagati u regulaciji.

Što je Kina konkretno predložila?

WAICO bi trebao biti platforma za usklađivanje pravila o AI-u, uz 'puno poštivanje razlika u nacionalnim politikama i praksama' te jačanje glasova Globalnog juga, navode kineski dužnosnici. Peking predlaže da sjedište bude u Šangaju, iako mnogi detalji ostaju nejasni.

Ne očekuje se da će WAICO biti nadležno tijelo s moći provođenja pravila - a Kina podržava i UN kao glavni kanal za globalno upravljanje AI-em - no organizacija bi mogla biti put da se zemlje postupno okupe oko zajedničkog okvira.

Xijev poziv na osnivanje WAICO-a bio je najmanje četvrti takav istup kineskih dužnosnika u četiri mjeseca, što prema Ngu pokazuje važnost inicijative za Peking. Jedan od razloga je i komercijalni, kaže Zhang. 'Ako Kina može postavljati standarde, to pomaže širenju njezinih proizvoda diljem svijeta.'

Inicijativa također nosi diplomatsku težinu. 'Kina se pokušava postaviti kao stariji brat Globalnog juga, poručujući – i mi moramo imati glas u upravljanju AI-em, ne smijemo dopustiti da nam drugi to diktiraju', dodaje Zhang.

Kako bi izgledalo globalno upravljanje AI-em?

Ne zna se. Kako bi globalno upravljanje izgledalo, nitko još ne zna, no stručnjaci za AI često kao najbližu usporedbu navode međunarodni nadzor nad nuklearnom energijom i stvaranje Međunarodne agencije za atomsku energiju (IAEA). Posebno je privlačna ideja da se preuzme model 'međusobnih inspekcija' ili treće strane - kakav postoji u nuklearnoj energiji - za nadzor razvoja AI-a i provjeru preuzetih obveza, kaže Ng.

Drugi prijedlog nalikuje konceptu CERN-a: zajednički međunarodni laboratorij u kojem bi najnapredniji AI sustavi nastajali kao globalno dobro, uz pristup svih članica. Treća mogućnost je model sličan Međunarodnoj organizaciji civilnog zrakoplovstva (ICAO), koja izrađuje tehničke standarde, a države ih potom ugrađuju u nacionalno zakonodavstvo.

U svim tim slučajevima ključnu je ulogu imao UN ili jedna od njegovih agencija. No 'AI se ne uklapa u ranije modele upravljanja', upozorava Velasco. 'Riječ je o tehnologiji široke primjene koja se brzo razvija i uvelike ovisi o privatnom sektoru.'

UN bi mogao biti platforma iz koje bi izrasla buduća globalna struktura za upravljanje AI-em, ali inicijativu bi najprije morala pokrenuti neka država članica na Općoj skupštini, dodaje Velasco.

Kolike su šanse da uskoro dobijemo globalno regulirani AI?

Percepcija utrke između SAD-a i Kine za prevlast u AI-u znatno otežava stvaranje međunarodnih sporazuma koji bi ograničili razvoj tehnologije, kaže Grace Gonzales, savjetnica u londonskom neprofitnom think tanku ControlAI.

Nakon Deklaracije iz Bletchleyja, fokus na sigurnost AI-a oslabio je na kasnijim sastancima u Seulu i Parizu, a trenutačno 'nedostaju snažni vladini kanali' u koje bi bile uključene ključne AI sile, dodaje Ng. UN, iako najšira platforma, pati od kroničnog manjka financiranja i sporih procedura, kaže Brian Tse, osnivač Concordia AI-a.

Ipak, zajednički standardi mogu nastati i bez obvezujućih međunarodnih ugovora. WAICO bi mogao odigrati 'kritičnu ulogu' ako pomogne državama da razviju zajedničko razumijevanje rizika i mogućnosti AI-a te ako potakne nepisana pravila o tome koje linije ne treba prelaziti, kaže Ng.

Konvencija o nuklearnoj sigurnosti iz 1994. poboljšala je sigurnost reaktora, ali tek nakon katastrofe u Černobilu 1986. godine, podsjeća Tse. 'U AI-u je važno da budemo korak ispred', zaključuje, i da smanjimo izglede za veliku krizu 'prije nego što se dogodi'.