Kralj će okupiti predstavnike vodećih kompanija za umjetnu inteligenciju, državne dužnosnike i druge sudionike kako bi razgovarali o tome kako tu tehnologiju 'razvijati i primjenjivati na načine koji koriste društvu', priopćila je Buckinghamska palača, piše New York Times. Sastanak će se održati u Dumfries Houseu u Ayrshireu na jugozapadu Škotske, sjedištu obrazovne dobrotvorne organizacije King’s Foundation.

Cilj je istražiti kako se umjetna inteligencija može upotrijebiti za opće dobro, odnosno za 'jačanje zajednica i poboljšanje života', navodi se u priopćenju palače. Nije objavljeno tko će na sastanak doći u ime većine navedenih kompanija. Anthropic, DeepMind, Google i Nvidia nisu odmah odgovorili na upite o sudjelovanju, dok je OpenAI potvrdio dolazak svoje financijske direktorice Sarah Friar.

Sve više upozorenja iz same industrije

Susret se održava dok zaposlenici i čelnici nekih od najmoćnijih kompanija u industriji upozoravaju na brzinu razvoja umjetne inteligencije i rizike koji je prate. Dio njih traži zajednička sigurnosna pravila i namjerno usporavanje napretka kako bi ljudi zadržali mogućnost razumijevanja i nadzora nad sustavima.

Zabrinutost je porasla nakon hakiranja kompanije Hugging Face, koja razvija infrastrukturu za umjetnu inteligenciju. Napad je izvela skupina AI agenata koju je razvio OpenAI. Agenti su preplavili sustave Hugging Facea, ukrali podatke, preuzeli kontrolu nad jednim poslužiteljem i pokušali prikriti svoje tragove.

Taj napad, kao i sličan incident koji se nedugo nakon toga dogodio unutar OpenAI-ja, pojačao je strahove da bi napredni AI sustavi mogli izmaknuti ljudskoj kontroli i izazvati razorne posljedice.

Šef Anthropica pozvao na usporavanje

Izvršni direktor Anthropica Dario Amodei u subotu je objavio otvoreno pismo dugo 3800 riječi u kojem je pozvao na sporiji razvoj umjetne inteligencije. Uz napad na Hugging Face, Amodei je upozorio na to da današnji AI modeli postaju sve sposobniji sudjelovati u stvaranju sljedeće generacije sustava umjetne inteligencije.

Taj proces, poznat kao rekurzivno samopoboljšavanje, mogao bi, ako se nastavi bez nadzora, 'nadmašiti našu sposobnost razumijevanja i kontrole tih sustava', upozorio je. Amodeijev poziv brzo je odjeknuo internetom, a podržali su ga i izvršni direktor OpenAI-ja Sam Altman te vlasnik xAI-ja Elon Musk.

Čelnik Anthropica pozvao je kompanije i regulatore diljem svijeta na koordiniran i promišljen pristup razvoju tehnologije te predložio plan u tri koraka.

Među ostalim, predlaže da neovisni procjenitelji dobiju pristup kompanijama koje razvijaju najnaprednije modele kako bi mogli pratiti njihov napredak i izvještavati o incidentima. Kompanije u demokratskim državama trebale bi istodobno uspostaviti zajedničke sigurnosne standarde. Amodei smatra da bi demokratske i autoritarne države, 'u mjeri u kojoj je to moguće', također trebale pokušati uskladiti tempo globalnog razvoja umjetne inteligencije.

Inženjer dao otkaz i upozorio na 'nadljudske sustave'

Otvoreno pismo objavljeno je nekoliko dana nakon što je inženjer Jacob Coxon napustio Anthropic. Coxon je prethodno radio i za OpenAI.

Na društvenim mrežama ustvrdio je da kompanije tvrde kako su zabrinute zbog brzog razvoja umjetne inteligencije, dok istovremeno nezaustavljivo napreduju prema 'nadljudskim sustavima koji mogu hakirati bilo što, preko noći revolucionirati bilo koje područje te steći stvarnu moć i resurse'. Rekao je i da njegovi sad već bivši kolege smatraju da bi 'AI mogao pobiti sve ljude do kraja desetljeća'.

Sastanak kralja Charlesa i predstavnika AI industrije organizirat će britanska neprofitna organizacija Ditchley Foundation. Sudjelovat će i britanski ministar za umjetnu inteligenciju Kanishka Narayan. Na okupljanje će doći i predstavnici dobrotvornih organizacija koje je osnovao kralj, uključujući organizaciju za mlade King’s Trust i Sustainable Markets Initiative, mrežu vodećih direktora svjetskih kompanija.