Pojam singularitet često se koristi za opisivanje hipotetskog trenutka u kojem umjetna inteligencija nadmašuje ljudsku (i postaje svjesna same sebe), a zatim počinje samu sebe unapređivati ​​nekontroliranom brzinom.

No pojam tehnološki singularitet izvorno je nastao kao šira metafora za točku nakon koje tehnološke promjene postaju toliko brze da ljudima postaje teško predvidjeti budućnost.

Matematičar Stanisław Ulam prisjetio se 1958. godine razgovora s fizičarom Johnom von Neumannom o ubrzanju tehnološkog napretka koji bi mogao dosegnuti 'neki ključni singularitet' u ljudskim poslovima. U to vrijeme taj se pojam nije odnosio na teoriju o svijesti strojeva. Međutim 1993. godine matematičar i pisac znanstvene fantastike Vernor Vinge učinio je taj koncept utjecajnim u krugovima koji se bave umjetnom inteligencijom.

U svojoj knjizi 'The Coming Technological Singularity' iznio je tezu da bi stvaranje inteligencije nadmoćnije od ljudske moglo pokrenuti nekontrolirane promjene u civilizaciji, nakon čega bi naša sposobnost predviđanja događaja potpuno zakazala.

Futurist Ray Kurzweil kasnije je popularizirao taj pojam, osobito svojom knjigom 'The Singularity Is Near' iz 2005. godine. U tom je djelu singularitetu pridao preciznije značenje, tvrdeći da će se ljudi do 2045. godine stopiti sa sve moćnijom, nebiološkom inteligencijom.

Dok su mnogi od nas danas zabrinuti zbog opasnosti koje nosi umjetna inteligencija, Kurzweilova je ideja znatno radikalnija. On ne pretpostavlja samo to da će strojevi razviti sposobnosti jednake onima ljudskog mozga, već tvrdi da će se strojevi pokretani umjetnom inteligencijom stopiti s našim mozgovima i postati jedno s njima.

Prema Kurzweilovom tehnooptimističnom gledištu, to je pozitivna stvar.

Transformacija neće biti brza

U vrijeme u kojem je pisao o tome njegove ideje djelovale su pomalo nerealno. No, s obzirom na nedavni napredak u području neuronskih proteza i sučelja mozak-računalo – kao i umjetne inteligencije – Kurzweilovo predviđanje o singularitetu danas se čini mnogo vjerojatnijim.

Ipak, neki aspekti njegove kibernetičke singularnosti ostaju kontraintuitivni, ako ne i posve nevjerojatni. Kako se, točno, stroj sjedinjuje s čovjekom? Kako se ljudska svijest uopće učitava u računalni oblak?

U revidiranom izdanju knjige iz 2024. 'The Singularity Is Nearer' Kurzweil se bavi tim i mnogim sličnim pitanjima. Naglašava da se prijenos ljudske svijesti iz naših tijela u nebiološke sustave neće dogoditi odjednom, niti na samo jedan način.

Zapravo, taj je prijenos već započeo u obliku digitalnih simulacija našeg izgleda te načina razmišljanja i govora. Uvijek optimist, Kurzweil u suvremenom problemu deepfake tehnologije vidi i pozitivnu stranu.

Svojim digitalnim aktivnostima već stvaramo iznimno bogate zapise o tome kako razmišljamo i što osjećamo, a tijekom ovog desetljeća naše će tehnologije za bilježenje, pohranu i organiziranje tih informacija ubrzano napredovati. Kako se budemo približavali kraju dvadesetih godina 21. stoljeća, te ćemo podatke oživjeti u obliku nebioloških simulacija – vrlo realističnih rekreacija ljudi s točno određenim osobnim karakteristikama.

Proces prenošenja ljudi u digitalne replike već se odvija i putem uređaja poput kohlearnih implantata koji gluhim osobama omogućuju sluh, sustava koji paraliziranima dopuštaju upravljanje računalima, kao i novijih implantata poput onih tvrtke Neuralink.

Kurzweil predviđa razvoj sve naprednijih oblika tih i drugih umjetnih organa koji će uskoro znatno poboljšati naše prirodne razine snage i dugovječnosti. U određenom trenutku ti će različiti oblici protetike i simulacija postati toliko sofisticirani da će se spojiti u robotske verzije nas samih – verzije toliko uvjerljive da ih je nemoguće razlikovati od izvornika.

Replikanti mogu biti stvarnost

Naziv za ovu fazu naše evolucije prema kibernetičkoj singularnosti Kurzweil posuđuje iz znanstvenofantastičnog klasika Philipa K. Dicka iz 1968. 'Sanjaju li androidi električne ovce?' – djela koje je kasnije ekranizirano kao film 'Blade Runner'. 'S vremenom bi se replikanti mogli čak nalaziti u kibernetički unaprijeđenim biološkim tijelima, uzgojenim iz DNK-a izvorne osobe.

I upravo tu pitanje tko je tko i što je što postaje pomalo složeno. Jer ako je vaša simulacija zapravo stvorena od vašeg DNK-a i sadrži sva vaša sjećanja i crte ličnosti, tko može reći da to zapravo niste vi?' piše Kurzweil. Takvog replikanta, koji predstavlja cjelovitu osobu, naziva You 2.

'Koliko bi zapravo bilo važno je li replikant stvoren pomoću umjetne inteligencije i rudarenja podataka, ili je riječ o potpunom prijenosu uma – verziji You 2 – iz nečijeg živog mozga?' ističe on, iako je implikacija jasna.

Uvjerljiv deepfake jedna je stvar, no živa kopija koja posjeduje svaku osobinu izvorne osobe sasvim je nešto drugo. Treba li ih smatrati osobama s punim ljudskim i građanskim pravima (poput prava glasa ili prava na sklapanje ugovora)? Jesu li odgovorni za ugovore što ih je potpisala ili zločine što ih je počinila osoba koju repliciraju?

Mogu li sebi pripisati zasluge za rad ili društveni doprinos osobe koju zamjenjuju? Morate li ponovno stupiti u brak sa svojim pokojnim supružnikom koji se vraća kao replikant? Hoće li replikanti biti izopćeni ili izloženi diskriminaciji? Pod kojim bi uvjetima stvaranje replikanata trebalo ograničiti ili zabraniti?

Revolucija nanorobota

Sva prethodno spomenuta postignuća kulminirat će revolucijom koju predvode nanoroboti.

Trenutačno ih se uglavnom koristi za dopremu lijekova u organizam, no za Kurzweila su oni ključ naše konačne kibernetičke evolucije u nebiološka ljudska bića.

Štoviše, učinit će naše mozgove milijunima puta snažnijima nego što su danas. Tijekom 2040-ih i 2050-ih godina preoblikovat ćemo svoja tijela i mozgove da bismo daleko nadmašili sve ono za što je naša biologija sposobna, uključujući mogućnost stvaranja sigurnosnih kopija i osiguravanje opstanka.

Kako se nanotehnologija bude razvijala, moći ćemo po želji stvarati optimizirana tijela: moći ćemo trčati mnogo brže i dulje, plivati ​​i disati pod vodom poput riba, pa čak si, ako to poželimo, podariti funkcionalna krila.

Razmišljat ćemo milijunima puta brže, a što je najvažnije, naš opstanak više neće ovisiti o preživljavanju bilo kojeg od naših fizičkih tijela. Naravno, sve to nosi i određene potencijalne nedostatke. U Kurzweilovoj viziji najveća opasnost leži u tome da bi se nanoroboti mogli oteti kontroli i početi se nekontrolirano razmnožavati.

Mogli bi se, zapravo, razmnožavati toliko brzo da bi apsorbirali doslovno sav organski materijal na površini Zemlje, pretvarajući sve u hrpe bezoblične, kašaste tvari. Najčešće spominjani najgori scenarij jest potencijalni nastanak 'sive sluzi' (engl. gray goo), samoreplicirajućih strojeva koji troše tvar na bazi ugljika i pretvaraju je u nove samoreplicirajuće strojeve.

Taj bi proces mogao dovesti do nekontrolirane lančane reakcije, pri čemu bi se cjelokupna biomasa Zemlje potencijalno pretvorila u takve strojeve.

Tko ste doista vi?

No pretpostavimo da se to neće dogoditi i da će do kibernetičke singularnosti ipak doći. Što onda? Možda je najhitniji problem taj što će biti nemoguće razlikovati tko smo mi zapravo od naših replika ili nebioloških proširenja.

Drugim riječima, što će pojam 'ljudsko' uopće značiti u kontekstu ljudske kontrole, kada – počevši od 2030-ih – u procese vlastitog odlučivanja uvedemo nebiološke dodatke putem sučelja mozak-računalo?

Ta će nebiološka komponenta rasti eksponencijalno, a naša biološka inteligencija ostat će nepromijenjena. Dakle, kako se budemo približavali kraju 2030-ih, naše će razmišljanje uvelike postati nebiološko.

Gdje će se, dakle, nalaziti ljudsko odlučivanje u trenutku u kojem naše vlastite misli budu uvelike koristile nebiološke sustave? Hoćemo li uopće moći uočiti razliku, pita se Popular Mechanics.