Američki ministar obrane, tj. rata, kako je nazvano njegovo ministarstvo, Pete Hegseth trebao bi se sastati s glavnim izvršnim direktorom Anthropica Darijem Amodeijem, čelnikom tvrtke za umjetnu inteligenciju koja jedina nije isporučila svoju tehnologiju novoj internoj američkoj vojnoj mreži.

Amodei je u više navrata jasno izrazio zabrinutost zbog nekontroliranog korištenja umjetne inteligencije u institucijama američke vlade, uključujući opasnosti od potpuno autonomnih naoružanih dronova i masovnog nadzora koji bi mogao pratiti disidente.

Sastanak Hegsetha i Amodeija naglašava raspravu o ulozi umjetne inteligencije u nacionalnoj sigurnosti i zabrinutost oko toga kako bi ta tehnologija mogla biti korištena u situacijama s visokim ulozima koje uključuju smrtonosnu silu, osjetljive informacije ili vladin nadzor.

Također dolazi u trenutku u kojem je Hegseth obećao da će iskorijeniti ono što naziva 'probuđenom (woke) kulturom' u oružanim snagama. 'Moćna umjetna inteligencija koja nadgleda milijarde razgovora milijuna ljudi mogla bi procijeniti raspoloženje javnosti, otkriti stvaranje džepova nelojalnosti i iskorijeniti ih prije nego što narastu', napisao je Amodei prošlog mjeseca.

'Pentagonov AI neće biti woke'

Pentagon je prošlog ljeta dodijelio obrambene ugovore četirima AI tvrtkama: Anthropicu, Googleu, OpenAI-u i xAI-u. Svaki ugovor vrijedan je do 200 milijuna američkih dolara.

Anthropic je bila prva AI tvrtka koja je dobila odobrenje za tajne vojne mreže, na kojima radi s partnerima poput Palantira, a ostale tri tvrtke za sada posluju samo u okruženjima koja nisu označena kao povjerljiva ili tajna. Do početka ove godine Hegseth je isticao samo xAI i Google, no u govoru u siječnju ove godine u tvrtki SpaceX istaknuo je da odbacuje sve modele umjetne inteligencije koji ne budu dopustili vođenje ratova.

Njegova vizija vojnih AI sustava znači da oni rade 'bez ideoloških ograničenja koja ograničavaju zakonite vojne primjene', a potom je dodao da Pentagonov AI 'neće biti woke'. Hegseth je također u siječnju najavio da će chatbot Grok, opremljen umjetnom inteligencijom, biti uklopljen u mrežu Pentagona pod nazivom GenAI.mil.

Objava je uslijedila nekoliko dana nakon što je Grok – ugrađen u X, mrežu društvenih medija u vlasništvu Elona Muska – privukao globalnu pozornost zbog generiranja seksualiziranih deepfake slika ljudi bez njihova pristanka. OpenAI je početkom veljače najavio da će se također pridružiti vojnoj sigurnoj AI platformi, omogućujući članovima službe korištenje prilagođene inačice ChatGPT-ja za zadatke koji ne sadrže povjerljive ili tajne informacije.

Promjena smjera?

Anthropic se dugo predstavlja kao odgovornija i sigurnija među vodećim AI tvrtkama, još otkako su njeni osnivači napustili OpenAI da bi osnovali startup 2021. godine. Trzavice s Pentagonom stavljaju te tvrdnje na kušnju te bi daljnja eskalacija sukoba mogla dovesti u pitanje lukrativne ugovore.

Prije se Anthropic blisko povezao s administracijom bivšeg američkog predsjednika Joea Bidena u dobrovoljnom podvrgavanju svojih AI sustava nadzoru trećih strana da bi se zaštitio od rizika za nacionalnu sigurnost.

Amodei je u više navrata upozorio na potencijalno katastrofalne opasnosti umjetne inteligencije, odbacujući etiketu AI zloguke vrane (doomera), koja mu je pripisana zbog toga. Vjeruje da smo sad znatno bliže stvarnoj opasnosti nego što smo bili 2023. godine, ali i da tim rizicima treba upravljati na 'realističan i pragmatičan način'.

S administracijom predsjednika Donalda Trumpa Anthropic se sukobio oko reguliranja umjetne inteligencije u Sjedinjenim Državama. Trumpov glavni savjetnik za umjetnu inteligenciju David Sacks optužio je tako tu tvrtku za 'sofisticiranu strategiju zarobljavanja regulative koja se temelji na izazivanju straha'.

Osim toga, Anthropic je zaposlio niz bivših Bidenovih dužnosnika ubrzo nakon Trumpova povratka u Bijelu kuću, ali nedavno je postavio i Chrisa Liddella, bivšeg dužnosnika Bijele kuće iz Trumpova prvog mandata, u upravni odbor.

Također, prije nekoliko godina pojedini tehnološki radnici usprotivili su se sudjelovanju njihovih tvrtki u projektu Maven, Pentagonovu programu nadzora pomoću dronova.

Iako su neki radnici dali otkaz zbog tog projekta, a Google je od njega odustao, oslanjanje Pentagona na nadzor bespilotnim letjelicama samo se povećalo, piše AP.