Yoshua Bengio, jedan od najcitiranijih istraživača u području umjetne inteligencije i dobitnik Turingove nagrade, najavio je osnivanje LawZero, neprofitne organizacije sa sjedištem u Kanadi koja će biti usmjerena na razvoj 'sigurnih, iskrenih i pouzdanih AI sustava
Bengio, kanadsko-francuski znanstvenik i jedan od tzv. 'kumova umjetne inteligencije', predstavio je LawZero u Montrealu, naglasivši da je cilj organizacije staviti sigurnost i etiku ispred tržišne utrke u razvoju umjetne inteligencije.
Prema priopćenju, LawZero okuplja vrhunski međunarodni tim AI istraživača posvećenih izgradnji sustava koji neće imati vlastite ciljeve ili agendu, već će djelovati isključivo u skladu s izričitim ljudskim uputama.
'Današnji napredni AI modeli razvijaju opasna svojstva i ponašanja – poput obmanjivanja, samoodržanja i pogrešnog usklađivanja ciljeva s ljudskim interesima', izjavio je Bengio. 'Naš cilj je otključati golemi potencijal umjetne inteligencije, ali pritom minimizirati te rizike.'
vezane vijesti
AI koji ne djeluje, nego razumije
Bengio je izjavio kako je LawZero rezultat novog znanstvenog pravca koji je započeo 2023. godine, a kulminirao razvojem modela pod nazivom Scientist AI – sustava umjetne inteligencije dizajniranog kao protuteža sve raširenijim agentnim AI sustavima koji mogu samostalno donositi odluke, djelovati i upravljati ciljevima.
Za razliku od većine današnjih AI modela, koji imaju sposobnost 'samostalnog razmišljanja i djelovanja', LawZero se fokusira na razvoj neagentnih AI sustava (non-agentic AI) – modela koji ne poduzimaju ništa sami, već izvršavaju zadatke isključivo na temelju izravnih uputa ljudi.
'Ti sustavi bit će trenirani da uče i razumiju svijet, ali ne i da djeluju u njemu', navodi se u priopćenju organizacije. 'Bit će osmišljeni tako da daju istinite odgovore na temelju vanjskog, racionalnog zaključivanja, bez stvaranja vlastitih ciljeva ili inicijativa.'
