ETIKA U DOBA AI-JA

I sam postao njezinom žrtvom, no od nje nije bježao: Ovo je Papina 'tech oporuka'

24.04.2025 u 12:52

Bionic
Reading

Papa Franjo, koji je preminuo od moždanog udara na Uskrsni ponedjeljak u 89. godini života, ostat će zapamćen ne samo kao duhovni vođa Katoličke crkve, već i kao jedan od rijetkih religijskih autoriteta koji je s neobičnom otvorenošću progovarao o tehnologiji – uključujući umjetnu inteligenciju (AI), čija je, paradoksalno, i sam postao 'žrtva'. Bio je prvi poglavar Katoličke crkve koji je izravno ušao u dijalog sa stručnjacima za AI i tehnološkom industrijom, ne kako bi tehnologiju odbacio, nego da bi inzistirao na etici, transparentnosti i njezinom služenju čovječanstvu

Godine 2023. i on je bio žrtva deepfake tehnologije. Tada je društvene mreže preplavila fotografija na kojoj se papa Franjo šeće Trgom svetog Petra odjeven u modernu bijelu Monclerovu jaknu i s dugom lančanom ogrlicom s blistavim križem. Fotografija je izgledala uvjerljivo, ali nije bila stvarna – bila je generirana umjetnom inteligencijom. I premda je mnoge nasmijala, upozorila je na moć i opasnosti dezinformacija u digitalnom dobu.

'Moramo samo razmisliti o dugotrajnom problemu dezinformacija u obliku lažnih vijesti, koje danas mogu koristiti deepfakeove, odnosno stvaranje i širenje slika koje izgledaju savršeno uvjerljive, ali su lažne. I ja sam bio predmet toga', rekao je tada Papa.

Nakon njegove smrti društvene mreže ponovno su eksplodirale – ovaj put u memovima o nasljedniku Svetog Oca. I dok je papa Franjo znao iskoristiti internet i društvene mreže za širenje poruke evanđelja, nikada nije prestajao upozoravati: tehnologija mora služiti povezivanju, ne podjeli.

Vatikan je još u siječnju ove godine apelirao na vlade da pomno nadziru razvoj umjetne inteligencije, upozorivši da tehnologija sadrži 'sjenu zla' u svojoj sposobnosti da širi dezinformacije. Papa Franjo opetovano je isticao da se umjetna inteligencija, pozivajući u nekoliko navrata na njezinu regulaciju na globalnoj razini, treba koristiti za opće dobro.

Vjernici diljem svijeta opraštaju se od Pape
  • Vjernici diljem svijeta opraštaju se od Pape
  • Vjernici diljem svijeta opraštaju se od Pape
  • Vjernici diljem svijeta opraštaju se od Pape
  • Vjernici diljem svijeta opraštaju se od Pape
  • Vjernici diljem svijeta opraštaju se od Pape
    +74
Vjernici diljem svijeta opraštaju se od Pape Izvor: EPA / Autor: ANTHONY WALLACE / POOL

'Više gledanja u oči, manje u ekrane'

U svojoj posljednjoj molitvenoj poruci, objavljenoj u travnju na službenom kanalu Vatikana na YouTubeu, Papa se izravno osvrnuo na tehnološki svijet: 'Nešto nije u redu ako više vremena provodimo uz mobitele nego s ljudima.' Pozvao je vjernike da mole za to kako bi tehnologija služila ljudskom dostojanstvu, a ne da ga potiskuje:

'Molimo da nova tehnologija ne zamijeni ljudske odnose, da poštuje dostojanstvo osobe i pomogne nam u suočavanju s krizama našeg vremena. Tehnološki razvoj riskira izoliranje pojedinaca i njihovo stavljanje u lažnu stvarnost. Umjetna inteligencija bi se trebala koristiti za zbližavanje ljudi te za promicanje razumijevanja i solidarnosti unutar društva', govorio je papa Franjo.

Papa je izrazio i želju da ljudi 'manje gledaju u ekrane, a više jedni drugima u oči', piše Euronews.

Vjernici se opraštaju od pape Franje
  • Vjernici se opraštaju od pape Franje
  • Vjernici se opraštaju od pape Franje
  • Vjernici se opraštaju od pape Franje
  • Vjernici se opraštaju od pape Franje
  • Vjernici se opraštaju od pape Franje
    +9
Vjernici se opraštaju od pape Franje Izvor: EPA / Autor: ANGELO CARCONI

Etički okvir za AI: Ni idolopoklonstvo ni medicina za bogate

U siječnju ove godine Vatikan je objavio dokument Antiqua et Nova – svojevrsni etički kompas za odnos između umjetne i ljudske inteligencije. Ključna poruka dokumenta glasi: umjetna inteligencija ne smije zamijeniti čovjekovu, već joj mora služiti kao alat.

Citat pape Franje u dokumentu glasi: 'Sama upotreba riječi 'inteligencija' u kontekstu AI-ja može biti zavaravajuća… Umjetna inteligencija nije umjetni oblik ljudske inteligencije, već njezin proizvod.'

U dokumentu se ističe zabrinutost zbog razvoja autonomnog oružja koje može birati i uništavati mete bez ljudske intervencije. Takva tehnologija, navodi se, predstavlja 'ozbiljnu etičku prijetnju' i 'egzistencijalni rizik' koji bi mogao ugroziti čitave regije – pa i čovječanstvo u cjelini.

Život pape Franje
  • Papa Franjo - život u fotografijama
  • Papa Franjo - život u fotografijama
  • Papa Franjo - život u fotografijama
  • Papa Franjo - život u fotografijama
  • Papa Franjo - život u fotografijama
    +30
Papa Franjo u slikama Izvor: EPA / Autor: EPA

AI u zdravstvu: Potencijal i opasnosti

Unatoč oštrim upozorenjima, dokument prepoznaje i ogroman potencijal umjetne inteligencije, osobito u obrazovanju i zdravstvu. No i tu Vatikan upozorava: 'AI ne smije zamijeniti odnos između liječnika i pacijenta jer bi to moglo produbiti osjećaj usamljenosti koji često prati bolest.'

Također, bez pažljive regulacije, AI bi mogao pogoršati postojeće nejednakosti stvarajući 'medicinu za bogate'. Dokument u 117 točaka tematizira i okolišni otisak tehnologije, nadzor, pa čak i duhovnu dimenziju.

Možda najdublje teološko upozorenje dolazi u dijelu koji govori o pokušajima da se AI koristi kao izvor smisla u svijetu koji se udaljava od duhovnosti. 'Neki se u potrazi za ispunjenjem okreću umjetnoj inteligenciji, ali te čežnje mogu biti ispunjene jedino u zajedništvu s Bogom. Pretpostavka da se Boga može zamijeniti ljudskim artefaktom je idolopoklonstvo – praksa na koju (Sveto) Pismo izrijekom upozorava', stoji u dokumentu.

Fra Paolo Benanti
  • Fra Paolo Benanti
  • Fra Paolo Benanti
  • Fra Paolo Benanti
  • Fra Paolo Benanti
  • Fra Paolo Benanti
    +2
Fra Paolo Benanti Izvor: Profimedia / Autor: Cecilia Fabiano / LaPresse / Profimedia

Papin savjetnik za AI

Papa Franjo proteklih se godina značajno usredotočio na etička pitanja vezana za umjetnu inteligenciju. Početkom godine poslao je poruku o tehnologiji na Svjetskom gospodarskom forumu (WEF) u Davosu, upozoravajući političke i ekonomske vođe da je ona dovela do 'kritične zabrinutosti' za budućnost čovječanstva.

Pored toga, bio je angažiran oko teme umjetne inteligencije u toj mjeri da je imao i svog savjetnika za AI. Naime, osim duhovnih tema, moralne teologije i bioetike, franjevac Paolo Benanti bavi se jednim od najvažnijih pitanja suvremenog doba: kako upravljati umjetnom inteligencijom (AI) tako da obogaćuje, a ne iskorištava ljudske živote. Taj akademik i teolog glavni je stručnjak za tehnologiju i AI ne samo Vatikana, već i savjetnik ponajboljih inženjera i izvršnih direktora iz Silicijske doline. >>Pročitajte više<<