Nakon više od desetljeća provedenog na usklađivanju umjetne inteligencije Nate Soares vjeruje kako postoji visoka razina vjerojatnosti da će nas zbrisati s lica Zemlje u narednih deset godina
Odrasli smo uz ideju kako je mudro štedjeti za mirovinu. Nate Soares, predsjednik organizacije Machine Intelligence Research Institute, nije baš siguran kako će nam umjetna inteligencija dopustiti da stignemo tako daleko.
'Trenutno ne štedim za mirovinu. Imam 401(k) iz vremena kada sam radio u Googleu, ali nisam uplaćivao već desetljeće', rekao je za Atlantic.
Soaresova odluka odražava sumoran pogled na utrku umjetne inteligencije.
vezane vijesti
'Kum' umjetne inteligencije Geoffrey Hinton i antropološki istraživač Evan Hubinger procijenili su kako postoji deset posto vjerojatnosti kako će umjetna inteligencija ubiti sve u roku od desetljeća na 10 i više posto.
Soares je pesimističniji: vjeruje kako postoji više od 50 posto šanse da umjetna inteligencija uzrokuje izumiranje ljudi u manje od desetljeća.
Koautor knjige If Anyone Builds it, Everyone Dies proveo je više od 12 godina radeći na usklađivanju umjetne inteligencije, području koje se bavi proučavanjem načina kako moćne sustave zadržati u predviđenim okvirima djelovanja.
Prije nego što se pridružio MIRI-ju, neprofitnoj organizaciji sa sjedištem u Berkeleyju (SAD) koja se fokusira na rizike umjetne inteligencije, radio je kao inženjer u Googleu i Microsoftu.
Soares vjeruje kako dovoljno sposobna umjetna inteligencija može razviti ciljeve koji su u suprotnosti s ciljevima čovječanstva, izbjeći nadzor, poboljšati se i izgraditi automatiziranu infrastrukturu potrebnu za rad bez ljudi.
Polazeći od toga, mogla bi preoblikovati planet oko vlastitih ciljeva, potencijalno ga čineći nenastanjivim za ljude.
Muskova vizija se razlikuje
Pitanje kako će umjetna inteligencija oblikovati budućnost također je potaknulo Elona Muska na dvojbu oko toga hoće li mirovinska štednja biti važna.
Muskova vizija budućnosti, međutim, radikalno se razlikuje od Soaresove. U siječnju je rekao kako se ljudi ne bi trebali brinuti o štednji novca za mirovinu za 10 ili 20 godina, predviđajući kako će napredak u umjetnoj inteligenciji, robotici i energetici učiniti mirovinsku štednju nebitnom.
Musk je uvjeren kako bi superproduktivnost mogla stvoriti doba obilja, u kojem bi svatko imao pristup univerzalnom visokom dohotku, jeftinoj robi i uslugama te boljoj zdravstvenoj zaštiti i obrazovanju. Također je rekao kako bi novac mogao postati nebitan u budućnosti u kojoj umjetna inteligencija i roboti nadmašuju ljude u gotovo svakom zadatku.
Za Soaresa, izgledi za izuzetno sposobnu umjetnu inteligenciju predstavljaju egzistencijalnu opasnost, a ne put do obilja. Ponavljajući pozive tehnoloških čelnika za usporavanjem razvoja umjetne inteligencije, Soares je rekao kako bi vlade trebale zaustaviti obuku sustava umjetne inteligencije opće namjene.
Trebale bi se usredotočiti na razvoj tehnologije za primjene poput istraživanja raka i sigurnijih autonomnih automobila, ne 'graditi stvar koja bi ubila sve'. Soares ne misli kako je crni scenarij neizbježan, pa čini sve kako bi ga zaustavio, piše Business Insider.
