Skupina lobista koju podržava Elon Musk, povezana s kontroverznom ideologijom popularnom među tehnološkim milijarderima, bori se kako bi spriječila robote ubojice u uništenju čovječanstva. Trenutno su fokusirani na europski Zakon o umjetnoj inteligenciji.

Institut Future of Life (Future of Life Institute, FLI) tijekom protekle je godine nametnuo se kao utjecajan sugovornik u raspravama o nekim od najspornijih odredbi tog zakona.

FLI je 2014. godine pokrenuo Max Tegmark sa MIT-ja. Osim Muska, podržavaju ga Jaan Tallinn (Skype) i čudo od djeteta u svijetu kriptovaluta Vitalik Buterin, znanstvenici Martin Lord Rees i Nick Bostrom, glumci Morgan Freeman i Alan Alda...

Riječ je o neprofitnoj organizaciji posvećenoj otkrivanju načina kako riješiti egzistencijalne krize, događaje koji bi mogli s lica Zemlje izbrisati čovječanstvo.

Glavna prijetnja od koje strahuju u FLI-ju je umjetna inteligencija koja se otela kontroli. Ukazuju na to kako se problematične stvari u tom smislu već događaju - primjerice, pad zrakoplova zbog toga što autopilot nije mogao biti isključen, juriš na američki Kapitol zahvaljujući algoritmu koji je pomogao u okupljanju mase...

Usprkos povezanosti te skupine sa Silicijskom dolinom, pokazalo se kako argumenti koje nudi FLI idu protiv velikih tehnoloških divova poput Googlea i Microsofta.

Lobiranje u Bruxellesu već je dalo rezultate

FLI je ured pri Europskoj uniji otvorio sredinom 2021. godine u Bruxellesu, u trenutku kad su razgovori o prijedlogu Zakona o umjetnoj inteligenciji počeli. Nadaju se kako će umjetna inteligencija biti razvijena više u Europi, gdje je regulatorni nadzor jači.

U dosadašnjim razgovorima s Europskom unijom djelovali su pomalo kao da su pali s Marsa, pa i ostavili dojam kako upozoravaju na malo vjerojatne prijetnje i time odvlače pozornost od neposredno važnijih problema. Ipak, ne može se reći kako je to što su imali za reći ostalo bez odjeka.

Uspjeli su u nacrt Zakona o umjetnoj inteligenciji uvrstiti odredbu koja spominje i umjetnu inteligenciju opće namjene (a koja može biti pod utjecajem predrasuda i opasnih nepreciznosti), a koja Europskoj komisiji do tada nije bila na radaru.

FLI također ukazuje na to kako većina takvih sustava nastaje u SAD-u i Kini, što bi moglo naškoditi inovacijama u Europi.

U Bruxellesu, piše Politico, brinu kako bi FLI trenutne praktične razgovore o umjetnoj inteligenciji mogao preusmjeriti prema scenarije koji se odvijaju u dalekoj budućnosti.

Problemi s Muskom i učinkovitim altruizmom

Trenutno FLI ima dva problema vezana uz odnose s javnošću.

Prvi je Musk, koji je izložen kritikama otkad je po preuzimanju Twittera počeo masovno otpuštati zaposlenike i došao pod pojačan nadzor regulatornih agencija. Zbog njega bi zakonodavci mogli biti oprezniji prema FLI-ju nego što bi inače bili.

Drugo, FLI je povezan s učinkovitim altruizmom, skupom vjerovanja koji cilja pronaći najbolje načine kako pomoći što većem broju drugih ljudi i provesti ih u djelo.

Tu je utilitarističku filozofiju oblikovao William MacAskill, filozof čije radove Musk smatra vrlo bliskim vlastitom pogledu na svijet.

Na najjednostavnijoj razini to znači donacije velikog dijela prihoda dobrotvornim udrugama koje će ih djelotvorno pretočiti u akciju. Radikalniji i dugoročniji pristup podrazumijeva smanjivanje rizika koji mogu ubiti puno ljudi na najmanju moguću mjeru, naročto onih u budućnosti.

Tu je ideologiju aktivno promicao, između ostalih, Sam Bankman-Fried, osnivač i glavni izvršni direktor kriptomjenjačnice FTX čiji je slom temeljito uzdrmao cijelo tržište kriptovaluta, a korisnička sredstva vrijedna milijarde USD nepovratno su, čini se, nestala.

Uspjeli su u nacrt Zakona o umjetnoj inteligenciji uvrstiti odredbu koja spominje i umjetnu inteligenciju opće namjene (a koja može biti pod utjecajem predrasuda i opasnih nepreciznosti), a koja Europskoj komisiji do tada nije bila na radaru.

FLI također ukazuje na to kako većina takvih sustava nastaje u SAD-u i Kini, što bi moglo naškoditi inovacijama u Europi.

U Bruxellesu, piše Politico, brinu kako bi FLI trenutne praktične razgovore o umjetnoj inteligenciji mogao preusmjeriti prema scenarije koji se odvijaju u dalekoj budućnosti.

Tko to sve plaća?

U FLI-ju tvrde kako je Bankman-Friedovo djelovanje bilo u suprotnosti s načelima na kojima učinkoviti realizam počiva, ali i kako treba razdvojiti filozofiju od njihovog djelovanja. Također, ističu kako se bave brojnim aktualnim problemima kao što su softver s ugrađenim predrasudama i autonomno naoružanje.

Oni koji FLI smatraju izdankom kalifornijskog futurizma ukazuju na članove upravnog odbora te organizacije i njihove novčanike.

Osim Muska, Tallinna i Tegmarka, među donatorima i savjetnicima su istraživači iz Googlea i OpenAI-ja, Open Philantrophy Dustina Moskovitza (suosnivača Meta Platforms), Berkeley Existential Risk Initiative (koju je financirao FTX)...

Tijekom 2020. godine većina financiranja (276 tisuće od 482.479 USD) došlo je od zaklade Silicon Valley Community, dobrotvorne udruge koju podržavaju veliki tehno igrači poput Marka Zuckerberga. Podaci za prošlu godinu još nisu dostupni.