Britanski kralj Karlo III. u četvrtak je upozorio čelnike u području umjetne inteligencije na "egzistencijalne opasnosti" koje proizlaze iz mogućnosti da ta tehnologija dospije u pogrešne ruke, naglasivši potrebu za zaštitnim mjerama prije nego što bude "prekasno".
Karlo III. je u Škotskoj ugostio suosnivače tvrtki Nvidia i Google DeepMind te čelne ljude tvrtki OpenAI i Anthropic, dok raste zabrinutost da napori usmjereni na sigurnost umjetne inteligencije zaostaju za razvojem sve moćnijih sustava.
vezane vijesti
Posljednjih se tjedana rasprava usredotočila na pitanje može li se i treba li se ta industrija sama regulirati, što je potaknulo reakcije istaknutih svjetskih ličnosti, uključujući papu Lava XIV., britanskog kralja Karla III. i američkog predsjednika Donalda Trumpa.
Poziva na kontrolu "prije nego što bude prekasno"
Britanski kralj je rekao da umjetna inteligencija ima potencijal poboljšati i spasiti živote, osobito u prirodnim znanostima i medicini. No tvorci AI-ja sve više upozoravaju da bi mogao razviti mračnije sposobnosti, "možda čak i oduzeti život", rekao je Karlo III.
"Čini se da je hitno potrebno ozbiljno razmotriti egzistencijalne opasnosti koje proizlaze iz toga da takve tehnologije dospiju u pogrešne ruke i budu iskorištene na potencijalno katastrofalan način", rekao je kralj čelnicima okupljenima na njegovom imanju Dumfries House.
"Trebaju nam dostatna sredstva nadzora prije nego što bude prekasno."
Na sastanku su bili osnivač i izvršni direktor Nvidije Jensen Huang, osnivač i predsjednik Google DeepMinda Demis Hassabis, financijska direktorica OpenAI-ja Sarah Friar te britanski ministar za umjetnu inteligenciju Kanishka Narayan. Očekivalo se da će prisustvovati i Paolo Benanti, papin savjetnik koji je pozvao vlade da uspore razvoj umjetne inteligencije.
Rasprava o prijetnji čovječanstvu
Rasprava o umjetnoj inteligenciji vratila se u središte pozornosti nakon što su dva istraživača iz tvrtke Anthropic upozorila da bi ta tehnologija, koja se ubrzano razvija, u ne tako dalekoj budućnosti mogla dovesti do uništenja čovječanstva.
Izvršni direktor tvrtke Anthropic Dario Amodei također je pozvao tvrtke da uspore tempo razvoja umjetne inteligencije.
Međutim, to je potaknulo međunarodnu raspravu o tome imaju li pojedini čelnici skrivene motive - poput donošenja pravila kojima se čuva prednost određenih tvrtki, djelovanja kako bi se izbjegla šira reakcija vlasti ili pak jednostavnog usporavanja ulaganja u utrci za razvoj umjetne inteligencije.
Iako se ne očekuje da će sastanak u Škotskoj rezultirati bilo kakvim obvezujućim sporazumima, britanski kralj ističe kako je on, najprije kao princ od Walesa, a sada kao kralj, koristio svoj položaj za poticanje rasprava o nizu globalnih pitanja.
Govoreći o rizicima povezanim s umjetnom inteligencijom, Karlo III. je također upozorio na njezin potencijalni utjecaj na okoliš, čime se odražava njegovo desetljećima dugo zalaganje za očuvanje prirode.
Buckinghamska palača priopćila je da će se u raspravama razmatrati može li zajednički skup načela usmjeravati buduću primjenu umjetne inteligencije, "ne samo kao pokretača sposobnosti i učinkovitosti, već kao alata koji štiti ljudsko dostojanstvo i pridonosi procvatu kako ljudi tako i planeta".
