Liberalna demokracija postala je najmanje zastupljen oblik vlasti na svijetu, sposobnost ljudi da razgovaraju i slušaju jedni druge gotovo je nestala a povjerenje se preselilo iz ljudskih institucija u ne-ljudske sustave, algoritme, mreže i kriptovalute. Pritom, najveća prijetnja demokraciji nije u različitim politikama nego u uništavanju njezinih mehanizama samoispravljanja, a umjesto da strahujemo od migranata, bolje bi nam bilo da pripazimo na digitalne imigrante, umjetne inteligencije koje preuzimaju poslove, jezik i kulturu, bez ikakve lojalnosti bilo kojoj državi ili narodu. Ukratko, ako pametnim ljudima date loše informacije oni će donositi glupe odluke, a to se upravo već neko vrijeme događa svijetu.

Iako dijagnoze Yuvala Noaha Hararija, izgovorene u četvrtak s pozornice zagrebačke Dvorane Lisinski, zvuče gotovo apokaliptično kontroverzno, ne može se osporiti lucidnost s kojom ovaj izraelski povjesničar i filozof sintetizira povijest, religiju, ekonomiju i tehnologiju u jedinstvenu, koherentnu priču. U toj priči, koja nije priča nego vrlo pametna interpretacija vrlo pametnog čovjeka, ljudi nisu žrtve strojeva nego vlastitih iluzija, a najveća prijetnja čovječanstvu nije umjetna inteligencija nego sasvim stvarna, vrlo obična ljudska glupost.

Drugim riječima, naš se svijet ne urušava zbog ratova nego zbog gubitka povjerenja, a novi urednik te stvarnosti je – algoritam. Na toj hladnoj točki između tehnološkog napretka i moralne regresije čovjek riskira postati promatrač procesa koje više ne razumije. Prije pet godina možda bismo još mogli i izbjeći ovaj eksperiment, ali danas više ne možemo. Odluka je donesena, već smo se ukrcali na taj vlak i sad se vozimo. Pa hej, kad smo već tu, uživajmo u vožnji!

Problem je što nas nije briga za tuđu patnju

Kad je 2015. prvi put bio u Zagrebu, Harari je bio tek "običan" autor pristigao da u Kinu Europi predstavi svoj globalni bestseler Sapiens. U međuvremenu je, zahvaljujući dosadnoj navici da zadire u temeljne mitove modernog čovjeka – religijske, političke, tehnološke i humanističke, uporno rušeći našu iluziju vlastite posebnosti, stekao status jedne od najutjecajnijih, ali i najpolariziranijih intelektualnih figura današnjice. Po njemu, ljudi nisu "kruna stvaranja" nego biološki algoritmi, životinjska vrsta koja je slučajno razvila složene sustave pripovijedanja, religije su korisni društveni mitovi a nikakvi nositelji istine, dok je mogućnost nastanka digitalnih diktatura u kojima će algoritmi upravljati ljudima bolje nego što to ljudi čine sami – vrlo realna. Sve to posljedica je jednostavne činjenice: naše nesposobnosti da vidimo širu sliku.

Kolikogod ga kritizirali za banalnost u interpretacijama (znanstvenici ga često nazivaju pop-filozofom) i kolikogod ga optuživali za moralnu ambivalentnost kad je u pitanju kritika Silicijske doline (s kojom je Harari duboko povezan i redovito komunicira s ljudima poput Marka Zuckerberga, Billa Gatesa ili Klausa Schwaba), činjenica da je Lisinski sinoć bio dupkom pun pokazuje da u Hrvatskoj itekako ima ljudi zainteresiranih za ono što on ima za reći i, iako je teško procijeniti koliko je prisutnih doista platilo kartu ulaznice po famoznoj cijeni od 250 do 400 eura – s obzirom na količinu novinara, urednika, PR-ovaca, pripadnika srednjih i viših menadžmenata i raznih dionika kulturnog polja u gledalištu – sve to ne umanjuje činjenicu da je u Zagrebu sinoć bio jedan od najvećih povijesno-filozofskih globalnih intelektualnih autoriteta današnjice i da je, makar je govorio stvari koje ponavlja već godinama, izrekao neke vrlo jednostavne i neosporne činjenice, i izrekao ih nama.

A zašto se onda ponašamo tako glupo?

A što je govorio? U razgovoru koji je vodila profesorica sa zagrebačkog Fakulteta političkih znanosti Marijana Grbeša-Zenzerović, Harari je svoju analizu započeo od pitanja: Ako su ljudi tako inteligentni, zašto se onda ponašamo tako glupo?, nudeći dva ključna odgovora. Prvo, danas imamo najsofisticiraniju informatičku tehnologiju u povijesti, koja paradoksalno "preplavljuje svijet smećem – informacijskim otpadom". Loše informacije vode pametne ljude prema glupim odlukama. No, dublja opasnost leži u konfuziji između inteligencije i mudrosti. Povijest, tvrdi Harari, pokazuje da su ljudi, iako daleko inteligentniji od čimpanzi, ujedno i najzabludjelija bića na planetu. "Mi smo jedina vrsta sposobna vjerovati da ćemo, ako ubijemo ljude iz druge skupine, dobiti vječnu nagradu na nebu", rekao je. Upravo zato, pri stvaranju umjetne superinteligencije (AI), moramo računati s tim da bi ona mogla postati superzabluđujuća.

Ova superinteligencija, nastavio je Harari, preuzima sve što je temeljeno na jeziku, jer ga razumije na zapanjujuće dubokoj razini. S obzirom na to da se cijeli njegov rad temelji na riječima, Harari priznaje da bi nova knjiga na kojoj radi mogla biti "vjerojatno moja posljednja knjiga", jer će se svijet pisanja radikalno promijeniti. A to se ne odnosi samo na pisce i novinare; budući da su novac i financijski sustav u svojoj biti samo priča i jezična konstrukcija, AI će preuzeti i tu domenu, stvarajući složene financijske instrumente koje ljudi neće moći razumjeti: ta trgovina naprosto se odvija iznad naših glava, između AI sustava.

Ruše se tabui, stigao je novi imperijalni poredak

Prelazeći s jezika na geopolitiku, Harari je istaknuo da upravo svjedočimo namjernom uništavanju svjetskog poretka, koji je, unatoč svojim manama, bio bolji od gotovo bilo kojeg prije. Najbolji dokaz toga nalazio se u državnim proračunima: po prvi put u povijesti, vlade su diljem svijeta trošile više na zdravstvo (preko 10% BDP-a) nego na vojsku (oko 5% BDP-a). "Ali to je sada gotovo," izjavio je. Taj je tabu prekršen, a svijet ulazi u novo imperijalno doba: "ruskom invazijom na Ukrajinu" i "izraelskim pokušajem trajnog osvajanja i aneksije dijelova Gaze i Zapadne obale" prekršen je temeljni tabu svjetskog poretka – zabrana osvajanja i aneksije tuđeg teritorija silom.

Iako je time izravno osudio imperijalne ciljeve Izraela, kada je riječ o osjetljivoj temi sukoba u Gazi Harari je ostao suzdržan od zauzimanja strana, ali je ponudio snažnu moralnu tezu: mir je moguć. Problem nije u nedostatku resursa, vode ili zemlje, rekao je, već u onome što ljudi nose u glavi – "jer nisu sposobni prepoznati čovječnost druge strane". Ljudski um je ponekad "toliko uzak i ograničen" da ne može istodobno zadržati dvije ne-kontradiktorne istine: da sedam milijuna Palestinaca i sedam milijuna Židova imaju pravo na dostojanstvo, sigurnost i prosperitet. Rješenje, tvrdi, nije u uništavanju onoga što ne možemo obuhvatiti, već u proširenju vlastitog uma i srca. Nažalost, u izraelskom društvu vidi suprotan trend: "postajemo sve više zatvoreni, samodostatni, opsjednuti vlastitom boli" do te mjere da se ne može podnijeti spominjanje tuđe patnje.

Razgovor se raspada, novi urednici su algoritmi

Pad svjetskog poretka prati i urušavanje liberalne demokracije, koja je po prvi put nakon dvadeset godina manje zastupljena od autokracija. "Demokracija je u svojoj biti razgovor. Ona je na širokoj razini postala moguća tek zahvaljujući tehnologiji komunikacije, no dogodio se paradoks: razvili smo najsofisticiraniju informacijsku tehnologiju, a sposobnost za razgovor se raspala". Ljudi znaju govoriti, ali više "ne znaju slušati". Posljedica toga je golem deficit povjerenja; ljudi više ne vjeruju jedni drugima, ni institucijama – a za to vrijeme, tehnološka revolucija u središte gotovo svakog ljudskog odnosa ubacila je algoritam.

Povjerenje nije isparilo, tvrdi Harari, nego se "preselilo iz ljudskih institucija u neljudske sustave". "Ljudi ne vjeruju novinarima ni urednicima, ali zato vjeruju kriptovalutama, koje su, u suštini, algoritmi". "U središtu gotovo svakog ljudskog odnosa danas više ne stoji drugi čovjek, nego algoritam. Više nije čovjek-čovjek, nego čovjek-algoritam-čovjek. I tu se događa nešto vrlo važno: povjerenje se premješta."

Ovaj premještaj moći objašnjava i zašto će novinarstvo biti među prvima na udaru AI-ja: "Ako pogledamo 20. stoljeće, vidjet ćemo da su novinari i urednici bili među najutjecajnijim ljudima u društvu, i to ne zato što su ljudima govorili što da misle, nego o čemu da misle. Oni su odlučivali koja će tema biti glavna, što će dominirati javnim razgovorom, koja će vijest biti na naslovnici i o čemu će se danas govoriti. A sada, ako pitate tko su najutjecajniji urednici u Europi, oni više nemaju imena. Jer to više nisu ljudi. To su algoritmi. Algoritmi koji upravljaju velikim društvenim mrežama – oni su danas stvarni urednici Europe."

Ne trebaju nam posrednici, i Biblija sada može tumačiti samu sebe

Na udaru nije samo novinarstvo, nego i bankarstvo i odvjetništvo, kao i religija, jer je – baš kao i financije – religija "u svojoj suštini priča, oblik jezika". Ako su židovstvo, kršćanstvo i islam utemeljeni na svetoj Riječi, onda AI postaje novi "gospodar teksta": sustav koji može u nekoliko sekundi pročitati, zapamtiti i analizirati svaki teološki komentar nastao u posljednja dva tisućljeća, otkrivajući obrasce koje ljudski teolozi nikada nisu vidjeli. "Što ako više ne tumačite vi Bibliju, nego Biblija tumači samu sebe?", pitao je Harari.

Najveća opasnost za demokraciju, zaključuje, nastupa onog trenutka kad njezini mehanizmi samoispravljanja počnu slabjeti. Primjer Donalda Trumpa, koji uporno odbija priznati da je izgubio izbore 2020. godine, služi kao alarm. Sve dok imate mogućnost da nakon nekoliko godina izaberete nekog drugog, demokracija funkcionira, ali onog dana kada izgubite tu mogućnost, "to je dan kada demokracija stvarno umire".

Glave će nam doći digitalni a ne ljudski imigranti

Krizu povjerenja slikovito prikazuje i Europa. Harari je analizirao novčanice eura, koje nemaju likove ljudi, jer se članice "nisu mogle dogovoriti koga bi stavile". Umjesto toga, na njima su "mostovi, prozori i vrata", izmišljeni simboli otvorenosti. "Ako gradite kuću koja ima samo prozore i vrata, ali nema zidova – ta se kuća ne može održati," poručio je Harari, naglašavajući da se Europa ne može složiti ni oko jednog simbola koji je povezuje.

Europa danas pokušava "regulirati umjetnu inteligenciju", što Harari uspoređuje s pokušajima Zulu naroda da regulira industrijsku revoluciju u 19. stoljeću. Takva neuspješna regulacija vodi Europu prema tome da postane "američki vazal". Najveća prijetnja neovisnosti, međutim, ne dolazi od Bruxellesa, ni od migranata koji stižu čamcima, već od "digitalnih imigranata". Ti AI agenti stižu "bez putovnica, brzinom svjetlosti", preuzimajući poslove i kulturu, a "nisu lojalni nijednom političkom sustavu". Harari smatra da bismo se trebali "manje bojati ljudi koji dolaze brodovima, a više onih koji dolaze u obliku algoritama".

U tom kontekstu, AI revolucija postaje poput moderne Babilonske kule. Za razliku od biblijskog mita, gdje se kula ruši kada ljudi prestanu razgovarati, danas, kada ljudi gube sposobnost komunikacije, "kula se danas gradi brže nego ikad". Razlog je taj što AI nije samo alat, već agent koji djeluje samostalno, donosi odluke i izmišlja ideje. To je prvi put u povijesti da nešto može stvarati kulturu, a da nije čovjek.

Kako preživjeti budućnost? Obrazujte djecu za osjećaje!

U svojem zagrebačkom izlaganju, Harari je više puta naglasio da ne može predviđati budućnost – ona, kaže, "ovisi o odlukama ljudi koji upravo sada slušaju i djeluju". No unatoč tom upornom odbijanju uloge proroka, jasno je označio područja najveće neizvjesnosti: sudbinu Europske unije, demografske trendove koji izmiču političkoj kontroli i eksperiment bez presedana – svijet u kojem djeca odrastaju u kulturi koju stvara ne-ljudska imaginacija. "Već smo ušli u taj eksperiment i ne možemo sići“, upozorio je. I dok se demografija mijenja sporo, odluke o umjetnoj inteligenciji donose se munjevito – a u toj brzini, kaže Harari, još uvijek postoji prostor za ljudsku odgovornost.

Zaključno, ponudio je smjernice za budućnost, inzistirajući na potrebi mudrosti umjesto puke inteligencije. Roditeljima i obrazovnom sustavu poručio je da obrazovanje mora biti široko, razvijajući glavu, srce i ruke. U doba kada će AI preuzeti kognitivne zadatke, vještine koje se moraju razvijati su emocionalne vještine srca, i tjelesne, motoričke sposobnosti. Ono što nas čini ljudima i što AI ne može istinski replicirati jest sposobnost da osjetimo bol – i vlastitu, i tuđu. Iako AI razvija simuliranu svijest i oponaša emocije, to je samo "igra riječi, sofisticirana imitacija osjećaja".

Unatoč svemu, Harari je izrazio oprezni optimizam: "Nije zapisano u našim genima da moramo ratovati". Najizraženija osobina Homo sapiensa nije nasilje, već sposobnost međusobnog povjerenja i suradnje. Naša budućnost ovisi o odlukama koje donesemo danas, a ključ je u tome da "konačna kontrola nad budućnošću čovječanstva mora ostati u ljudskim rukama," i to u rukama ljudi koji "mogu osjetiti bol i suosjećati".