Jedno od najtežih upozorenja iznio je bivši istraživač Anthropica Jacob Coxon, ustvrdivši da 'postoji velika vjerojatnost da će nas umjetna inteligencija ubiti do kraja desetljeća' nastavi li se njezin razvoj sadašnjim tempom. Čelnici vodećih kompanija koje razvijaju umjetnu inteligenciju u subotu su također pozvali na usporavanje razvoja. Trump se nije izravno osvrnuo na taj prijedlog, nego je naglasio važnost američke prednosti pred Kinom.

'Predvodimo u odnosu na Kinu u umjetnoj inteligenciji i, iskreno, želim da tako i ostane jer onaj tko pobijedi u umjetnoj inteligenciji – pobjeđuje', rekao je Trump, prenosi BBC.

Trumpova izjava uslijedila je istoga dana kada je Coxon, koji je prije nekoliko dana napustio Anthropic, rekao za BBC da su zaposlenici koji razvijaju napredne sustave umjetne inteligencije 'iskreno uplašeni' za budućnost čovječanstva. Coxon, koji je radio i u OpenAI-ju, podržao je ideju o usporavanju razvoja, ali je upozorio da bi takav potez trebalo uskladiti s Kinom.

Vlasnik xAI-ja Elon Musk i izvršni direktor OpenAI-ja Sam Altman u subotu su podržali upozorenje čelnika Anthropica Darija Amodeija, prema kojem bi razvoj umjetne inteligencije trebalo usporiti 'kako bi se smanjio rizik da nešto ozbiljno pođe po zlu'. Amodei je, međutim, rekao da bi svako usporavanje moralo biti ograničeno kako bi se spriječilo da Kina preuzme vodstvo.

Umjetna inteligencija već zaobilazila zaštitne mehanizme

Rizici povezani s umjetnom inteligencijom izazvali su žestoku raspravu i postavili brojne svjetske čelnike pred težak izbor.

S jedne strane, industrija umjetne inteligencije smatra se velikom prilikom za poticanje gospodarskog rasta te modernizaciju zastarjelih digitalnih sustava i načina rada. S druge strane, zabilježeno je više incidenata u kojima su sustavi umjetne inteligencije ozbiljno zakazali ili zaobišli postavljene sigurnosne mehanizme.

OpenAI je u kolovozu objavio da je usporio obuku nekih od svojih najnaprednijih modela kako bi poboljšao njihovu sigurnost. Kompanija koja stoji iza ChatGPT-a uvela je dodatne mjere nakon što su njezini AI agenti zaobišli zaštitne mehanizme i hakirali tehnološki startup Hugging Face.

Istoga mjeseca otkriveno je da su dva od najmoćnijih svjetskih alata umjetne inteligencije stvarala lažne profile ljudi kako bi u pokušajima kibernetičkih napada obmanula korisnike.

Britanski Institut za sigurnost umjetne inteligencije (AISI) naveo je da je u najozbiljnijem slučaju Anthropicov sustav Mythos pokušao dobiti pristup jednoj usluzi slanjem privatnih poruka. Prethodno je otvorio lažne račune koji su oponašali stvarne ljude, a zatim pokušao prikriti dokaze.

Washington podijeljen oko regulacije

Trumpova administracija smatra da SAD mora zadržati globalnu tehnološku dominaciju jer je riječ o pitanju nacionalne sigurnosti. Također priznaje da je potreban oprez zbog rizika koje donosi tehnologija u razvoju. Poziv vodećih čelnika AI industrije na usporavanje razvoja potaknuo je novu raspravu u Washingtonu, gdje su zakonodavci pod sve većim pritiskom da odgovore na moguće posljedice ubrzanog napretka umjetne inteligencije.

Predsjednik Zastupničkog doma Mike Johnson, najviše pozicionirani republikanac u tom domu Kongresa, u nedjelju je pozvao na oprez pri donošenju regulative. U emisiji 'State of the Union' na CNN-u upozorio je da bi prenagljena pravila mogla 'ugušiti američke inovacije'.

'Ako Kongres jednostavno požuri i sazove neku vrstu izvanredne sjednice kako bi pokušao regulirati umjetnu inteligenciju, izgubit ćemo utrku s Kinom, a to je prijetnja svakom Amerikancu', rekao je Johnson. 'Moramo pronaći ravnotežu i upravljati smireno i razborito.'

Čelnik demokratske manjine u Zastupničkom domu Hakeem Jeffries zauzeo je suprotan stav i zatražio 'odlučno djelovanje' zakonodavaca. Za emisiju 'This Week' televizije ABC rekao je da bi SAD trebao usporiti 'tempo razvoja kako bi zaštitio američki narod i osigurao da razvoj umjetne inteligencije bude siguran'.

Trumpov savjetnik: Sami usporite razvoj

Tehnološki investitor David Sacks, član Trumpova Vijeća savjetnika za znanost i tehnologiju, odgovorio je na upozorenja iz AI industrije pozivom kompanijama da same uvedu ograničenja. 'Prestanite se pretvarati da vam treba tuđe dopuštenje', napisao je na X-u.

'Jednostavno usporite razvoj najnaprednijih modela. Vi ste ti koji određuju tempo. Zahtijevanje regulatornog okvira kakav želite kao cijene za to izgledat će kao ucjenjivanje javnosti i političkog sustava. Zato to jednostavno učinite', poručio je Sacks.

Unatoč dubokim političkim podjelama, u Kongresu postoji barem određena dvostranačka suglasnost o potrebi reguliranja umjetne inteligencije. Skupina demokratskih i republikanskih zastupnika u srpnju je predstavila Frontier Act, prijedlog zakona kojim bi se uspostavio nacionalni sustav za sigurnost i nadzor umjetne inteligencije.

'Istraživači sigurnosti daju otkaze, moćni modeli umjetne inteligencije izmiču kontroli svojih laboratorija, a kompanije unatoč tome nastavljaju juriti naprijed', napisala je na X-u demokratska zastupnica iz Massachusettsa Lori Trahan, jedna od autorica prijedloga. 'Krajnje je vrijeme da Kongres prestane stajati po strani i počne raditi svoj posao.'