Povjerenje i usklađivanje ubrzano postaju najvažnije sposobnosti po kojima će se razlikovati agenti i modeli, uvjeren je šef Meta Platformsa
Glavni izvršni direktor tvrtke Meta Platforms Mark Zuckerberg zauzeo je stajalište o sigurnosti umjetne inteligencije sličnije onome glavnog izvršnog direktora Nvidije Jensena Huanga nego onome čelnika tvrtke Anthropic Darija Amodeija.
vezane vijesti
Zuckerberg je u objavi na platformi X i drugim društvenim mrežama naveo kako vjeruje da će laboratoriji za umjetnu inteligenciju koji se ne usredotoče na usklađivanje (s ljudskim vrijednostima) zaostati, misleći pritom na rad programera čiji je cilj osigurati da tehnologije budu u skladu s tim vrijednostima.
Tema sigurnosti umjetne inteligencije dospjela je u središte pozornosti nakon što je Amodei objavio esej u kojem je pozvao tehnološku industriju na usporavanje tempa kojim unapređuje sposobnosti modela umjetne inteligencije. Njegov prijedlog kasnije je podržao šef OpenAI-a Sam Altman, a kritizirao ga je američki predsjednik Donald Trump.
'Vodi se velika rasprava o usporavanju napretka u pogledu sposobnosti dok se usklađivanje ne izjednači s tim napretkom. Moje je mišljenje da povjerenje i usklađivanje ubrzano postaju najvažnije sposobnosti po kojima će se razlikovati agenti i modeli', ustvrdio je Zuckerberg.
Laboratoriji koji razvijaju najnaprednije AI modele riskiraju znatnu pravnu odgovornost ako ti modeli prouzroče štetu, pa Zuckerberg smatra da su tvrtke motivirane spriječiti potencijalne probleme.
Usporavanje tempa kao primjer
Zuckerberg je naveo da je Meta svojevoljno odgodila izlazak svojeg AI agenta Muse zbog sigurnosnih provjera i zaštite. 'Jednostavno smo to učinili u sklopu našeg svakodnevnog rada jer je to očito bila ispravna odluka za ljude i za nas', pojasnio je Zuckerberg.
Huang vjeruje da bi proizvođači modela umjetne inteligencije trebali preuzeti odgovornost za svoje proizvode umjesto da od zakonodavaca traže propise kojima bi se ograničile potencijalne štete i rizici, kako je prethodno predložio Amodei.
Takve zakone i propise povezane s umjetnom inteligencijom opisao je kao potpuno nepotrebne jer su pouzdanost i funkcionalnost proizvoda već uređene postojećom legislativom. Altman smatra da usporavanje tempa razvoja modela predstavlja način na koji treba povesti industriju naprijed, pružiti primjer i pokazati da svi uvijek mogu biti bolji.
Uvjeren je da bi sigurnost i nadzor trebali imati prednost pred novim značajkama u razvoju umjetne inteligencije, iako priznaje da bi tvrtke mogle odustati od tog pristupa zbog pritiska konkurencije, piše CNBC.
