Anthropic je u ponedjeljak objavio da bi manji modeli umjetne inteligencije (AI) u roku od nekoliko mjeseci mogli postati dovoljno sposobni za samostalno širenje putem komercijalnih uređaja povezanih s internetom, poput pametnih pećnica i jeftinijih Android TV uređaja
U eksperimentima je tvrtka ispitivala mogu li AI modeli pronaći ranjive uređaje, kopirati se na njih i nastaviti širiti bez ljudske pomoći. Utvrđeno je da manji modeli s manje od 30 milijardi parametara mogu izvršiti brojne korake potrebne za replikaciju, no teško im je dovršiti cijeli postupak od početka do kraja.
U pojednostavljenim testovima, u kojima su uklonjeni pojedini sigurnosni koraci, modeli GLM-5.2 i snažniji modeli mogli su provesti cijeli proces replikacije.
vezane vijesti
Anthropic upozorava da bi takve modele bilo teško zaustaviti jer ne postoji središnja točka na kojoj bi ih se moglo isključiti. Za razliku od zlonamjernih programa bez umjetne inteligencije, oni bi mogli i samostalno pronalaziti načine za rad na nepoznatim uređajima te ciljati procesore podatkovnih centara.
Istraživanje se usredotočilo na uređaje povezane s internetom, poput Android televizora, pametnih kućanskih uređaja i drugih povezanih naprava, koji su često slabo zaštićeni. Tvrtka je upozorila i da bi, nastave li se manji modeli poboljšavati dosadašnjom brzinom, do kraja ove godine mogli postati sposobni za autonomnu replikaciju. Ubrzo nakon toga mogli bi uslijediti i sustavi za replikaciju temeljeni na drugim modelima.
Prema Anthropicu, takvi bi se autonomni AI sustavi vjerojatno širili sporo i oslanjali na široko dostupne, relativno slabo zaštićene računalne resurse. Tvrtka je istaknula da je potrebno ojačati sigurnost sustava kako bi se takvim AI agentima otežalo širenje.
