Lav XIV. u ponedjeljak je osobno predstavio svoju prvu encikliku, što je bez presedana u papinskoj tradiciji jer oni inače ne sudjeluju osobno na predstavljanju svojih dokumenata, bez obzira na njihovu važnost. Najvažniji je to dokument Katoličke crkve o umjetnoj inteligenciji, u kojem Papa upozorava da razvoj AI-a ne smije ostati u rukama malog broja tehnoloških kompanija i država te da autonomno oružje i AI sustavi za ratovanje predstavljaju ozbiljnu prijetnju čovječanstvu
U svojoj prvoj enciklici pod nazivom Magnifica humanitas (Veličanstveno čovještvo), predstavljenoj u Vatikanu, Papa je pozvao na strogu regulaciju umjetne inteligencije, zaštitu ljudskog dostojanstva i ograničavanje upotrebe AI-a u vojne svrhe.
Dokument od 235 stranica smatra se jednim od ključnih tekstova njegova pontifikata i najopsežnijim institucionalnim odgovorom neke velike religijske organizacije na ubrzan razvoj umjetne inteligencije. Papa upozorava da tehnologija ne smije postupno preuzeti ulogu čovjeka u donošenju moralnih odluka, osobito kada je riječ o ratovanju.
vezane vijesti
'Nijedan algoritam ne može rat učiniti moralno prihvatljivim', napisao je Lav XIV., upozorivši da tehnologije koje omogućuju ubijanje bez izravnog suočavanja s ljudskim posljedicama snižavaju moralni prag sukoba. Enciklika kritizira autonomne sustave naoružanja i algoritamsko odlučivanje u vojnim operacijama, uz zahtjev da upotreba AI-a u ratovanju bude podvrgnuta 'najstrožim etičkim ograničenjima'.
Papa, koji je diplomirao matematiku i nekoć predavao fiziku, ne odbacuje umjetnu inteligenciju u potpunosti, ali inzistira na tome da ona mora ostati podređena čovjeku, zakonima i etičkim načelima.
U dokumentu upozorava i da svijet ulazi u razdoblje trajnih sukoba te tvrdi da je tradicionalna teorija 'pravednog rata' danas zastarjela. 'Izgradnja svijeta koji živi u stanju stalnog sukoba zlo je koje treba jasno nazvati pravim imenom', piše Papa, dodajući da čovječanstvo već ima bolje alate za rješavanje sukoba: dijalog, diplomaciju i oprost.
Tehnološke kompanije ne smiju imati potpunu kontrolu
Velik dio dokumenta posvećen je pitanju moći velikih tehnoloških kompanija i opasnosti da razvoj umjetne inteligencije ostane koncentriran u rukama nekolicine aktera.
Stoga Papa traži stvaranje snažnih pravnih okvira, neovisnog nadzora i političke odgovornosti da bi se spriječile zloupotrebe AI-a. 'U pitanju nije tehnologija sama po sebi, već vrijednosti koje ona ugrađuje u društvo', upozorava.
Pritom ističe potrebu zaštite radnih mjesta, socijalne pravde, ljudskog dostojanstva i privatnosti građana u eri umjetne inteligencije.
AI uspoređuje s Babilonskom kulom
U enciklici Papa koristi i biblijsku priču o Babilonskoj kuli kao metaforu za opasnosti razvoja umjetne inteligencije bez jasnih moralnih granica. Prema njegovu tumačenju, čovječanstvo ponovno riskira stvaranje sustava temeljenog na jedinstvenoj moći i kontroli, što bi mogao dovesti do dehumanizacije društva.
U suprotnosti s time, smatra da razvoj AI-a mora uključivati različite kulture, mišljenja i društvene skupine.
Lav XIV. kritizira i transhumanizam, ideju da tehnologija može pomoći čovjeku da nadvlada biološka ograničenja poput starenja, kao i posthumanizam, koji dovodi u pitanje granicu između čovjeka i stroja.
'Ne možemo umjetnu inteligenciju smatrati moralno neutralnom. Svaki tehnološki alat odražava određene prioritete, odluke i način na koji klasificira ljude i situacije', upozorava Papa.
Vatikan želi aktivno sudjelovati u raspravi o AI-u
Predstavljanju enciklike prisustvovao je Chris Olah, suosnivač AI kompanije Anthropic. Time je Vatikan poslao poruku da želi izravno razgovarati s ljudima koji razvijaju umjetnu inteligenciju, a ne samo komentirati razvoj tehnologije sa strane.
Lav XIV. tako je postao prvi papa koji je osobno predstavio svoju encikliku javnosti.
Posljednjih mjeseci više je puta upozoravao na opasnosti AI-a, uključujući 'pretjerano emocionalne' chatbotove, deepfake sadržaj i korištenje umjetne inteligencije u religijskom kontekstu, te je nedavno osnovao međuresornu vatikansku komisiju koja će pratiti utjecaj AI-a na društvo.
Njegova enciklika nadovezuje se i na rad pokojnog pape Franje, a on je u posljednjim godinama života zagovarao međunarodnu regulaciju umjetne inteligencije te upozoravao na opasnosti manipulacije, dezinformacija i tehnološke nejednakosti.
Vatikan se nada da dokument neće ostati samo simbolična poruka te da bi mogao utjecati na globalne rasprave o regulaciji umjetne inteligencije, slično kao što je enciklika pape Franje o klimatskim promjenama prije deset godina utjecala na međunarodne klimatske politike.
