Osnivač i izvršni direktor Anthropica Dario Amodei odgovorio je na tvrdnje da njegova tvrtka podržava napore američke vlade za zabranom kineskih otvorenih modela umjetne inteligencije ili takvih modela općenito.

'Tko god je pročitao moje prethodne tekstove, trebao bi znati da takve zabrane ne smatram korisnom mjerom, ali dopustite mi da to jasno kažem kako ne bi bilo sumnje: Anthropic nikada nije zagovarao zabranu otvorenih modela', naveo je u objavi na Anthropicovoj web stranici.

Njegov odgovor uslijedio je nakon što je osnivač i izvršni direktor Nvidije Jensen Huang u svojoj prvoj objavi na društvenoj mreži X podijelio otvoreno pismo u kojem su Nvidia i mnoštvo drugih tvrtki za umjetnu inteligenciju - uključujući Hugging Face, Meta Platforms, Microsoft i Mistral - pozvali kreatore politike da ne nameću široka preuranjena ograničenja za otvorene modele umjetne inteligencije.

Iako u tom pismu Kina nije posebno spominjana, rasprava u industriji usredotočila se na tvrdnje da kineski laboratoriji za umjetnu inteligenciju rastu kapacitetima, često krađom intelektualnog vlasništva od svojih američkih kolega.

Jedna metoda je destilacija, gdje umjetna inteligencija bombardira drugi model uputama da bi naučila kako on funkcionira.

Amodei je u objavi naveo da otvorene modele razlikuje od prijetnje koju predstavlja Kina rekavši: 'Otvoreni modeli koji nemaju opasne mogućnosti javno su dobro: ne koštaju ništa osim računalstva potrebnog za njihovo pokretanje i pružaju vrijednost tvrtkama, programerima i istraživačima.'

Strah od umjetne inteligencije

Priznao je da već više godina strahuje od umjetne inteligencije, ali ne zbog tvrtki koje koriste otvorene modele, uključujući one iz Kine. Veći su problem autoritarne vlade koje bi mogle izgraditi modele moćnije od onih u SAD-u kako bi postigle trajnu vojnu nadmoć i/ili koristile umjetnu inteligenciju za represiju vlastitog naroda.

Amodei je naveo da Kineska komunistička partija nije jedina autoritarna vlast zbog koje je zabrinut, ali jest najsposobnija. Također strahuje da bi umjetna inteligencija mogla omogućiti i biološke napade, ne samo kibernetičke. Po njegovom mišljenju, otvoreni modeli opasniji su u tim scenarijima jer je teško primijeniti zaštitne ograde na njih ili pratiti njihovu upotrebu.

Citirao je izvješće britanske organizacije AI Security Institute, prema kojem otvorene modele nakon objave nije moguće povući. To je suprotno onome što tvrde zagovornici otvorenog računalnog koda: da pristup moćnim otvorenim modelima koje ne kontrolira jedan entitet pomaže braniteljima pri dizajnu, izradi i postavljanju zaštitnih sustava.

Amodei vjeruje da je Kinu moguće ograničiti sužavanjem pristupa moćnim čipovima (što je dugogodišnja američka politika) i pozivom na formalno suzbijanje destilacije. SAD je zaprijetio sankcijama protiv te zemlje ako se utvrdi da je došlo do krađe intelektualnog vlasništva na štetu američkih modela.

Čelnik Anthropica podržava rastuće napore, neke predvođene SAD-om, u stvaranju organizacije za testiranje sigurnosti modela, osobito ako bi cijeli svijet, uključujući Kinu, pristao podvrgnuti se tome, piše Tech Crunch.