Povjerenje i usklađivanje ubrzano postaju najvažnije sposobnosti po kojima će se razlikovati agenti i modeli, uvjeren je šef Meta Platformsa
Glavni izvršni direktor tvrtke Meta Platforms Mark Zuckerberg zauzeo je stajalište o sigurnosti umjetne inteligencije sličnije onome glavnog izvršnog direktora Nvidije Jensena Huanga nego onome čelnika tvrtke Anthropic Darija Amodeija.
vezane vijesti
Zuckerberg je u objavi na platformi X i drugim društvenim mrežama naveo kako vjeruje kako će laboratoriji za umjetnu inteligenciju koji se neće usredotočiti na usklađivanje (s ljudskim vrijednostima) zaostati, misleći pritom na rad programera čiji je cilj osigurati da tehnologije budu u skladu s tim vrijednostima.
Tema sigurnosti umjetne inteligencije dospjela je u središte pozornosti nakon što je Amodei objavio esej u kojem je pozvao tehnološku industriju na usporavanje tempa kojim unapređuje sposobnosti modela umjetne inteligencije. Njegov prijedlog je kasnije podržao šef OpenAI-ja Sam Altman, a kritizirao američki predsjednik Donald Trump.
'Vodi se velika rasprava o usporavanju napretka u pogledu sposobnosti dok se usklađivanje ne izjednači s tim napretkom. Moje je mišljenje kako povjerenje i usklađivanje ubrzano postaju najvažnije sposobnosti po kojima će se razlikovati agenti i modeli', ustvrdio je Zuckerberg.
Laboratoriji koji razvijaju najnaprednije AI modele riskiraju znatnu pravnu odgovornost ako ti modeli prouzroče štetu, Zuckerberg smatra kako su tvrtke motivirane spriječiti potencijalne probleme.
Usporavanje tempa kao primjer
Zuckerberg je naveo kako je Meta svojevoljno odgodila izlazak svojeg AI agenta Muse zbog sigurnosnih provjera i zaštite. 'Jednostavno smo to učinili u sklopu našeg svakodnevnog rada jer je to očito bila ispravna odluka za ljude i za nas', pojasnio je Zuckerberg.
Huang vjeruje kako bi proizvođači modela umjetne inteligencije trebali preuzeti odgovornost za svoje proizvode umjesto što od zakonodavaca traže propise kojima bi se ograničile potencijalne štete i rizici, kako je prethodno predložio Amodei.
Takve zakone i propise povezane s umjetnom inteligencijom opisao je kao potpuno nepotrebne jer je pouzdanost i funkcionalnost proizvoda već uređena postojećom legislativom. Altman smatra kako usporavanje tempa razvoja modela predstavlja način kako povesti industriju naprijed, pružiti primjer i pokazati kako svi uvijek mogu biti bolji.
Uvjeren je kako sigurnost i nadzor trebali bi imati prednost pred novim značajkama u razvoju umjetne inteligencije, iako priznaje kako bi tvrtke mogle odustati od tog pristupa zbog pritiska konkurencije, piše CNBC.
