DIGITALNE SIMULACIJE

Digitalna nekromancija: Je li razgovor s mrtvima pomoću AI-ja opasan?

28.09.2023 u 21:01

Bionic
Reading

Generativna umjetna inteligencija – koja obuhvaća velike jezične modele (LLM) poput ChatGPT-ja, ali i generatore slika i videa kao što je DALL·E 2 – pojačava takozvanu 'digitalnu nekromanciju', odnosno prizivanje mrtvih iz digitalnih tragova koje ostavljaju za sobom

Rasprave o digitalnoj nekromanciji potaknute su 2010-ih napretkom videoprojekcije (tehnologija deep fake), što je dovelo do svojevrsnog oživljavanja Brucea Leeja, Michaela Jacksona i Tupaca Shakura. To je također dovelo do posthumnih filmskih pojavljivanja Carrie Fisher i Petera Cushinga.

U početku u vlasništvu velikih filmskih i glazbenih produkcijskih kompanija, pojava generativne umjetne inteligencije proširila je pristup tehnologijama korištenima za reanimaciju ovih i drugih zvijezda.

Čak i prije nego što je javnosti u studenom 2022. predstavljen ChatGPT, jedan je korisnik već koristio OpenAI-jev LLM za razgovor s mrtvom zaručnicom na temelju njezinih poruka i e-pošte.

Uvidjevši potencijal, niz startupa kao što su Here After i Replika pokrenuli su korištenje generativne umjetne inteligencije da bi ožalošćenima 'oživjeli' njihove voljene.

AI startupi u ovoj domeni stvaraju se na ranijim 'uradi sam' pothvatima vraćanja voljenih osoba pomoću generativne umjetne inteligencije.

Koristeći objave, poruke (naprimjer, na društvenim mrežama i u e-pošti), audiosnimke govora, fotografije i videozapise voljenih osoba koje su poslali klijenti, obučavaju modele umjetne inteligencije, a oni omogućuju posthumnu interakciju s 'njima' putem slika, glasa i teksta.

Čini se da ova tehnologija za neke prelazi kulturnu, a možda čak i etičku granicu, pri čemu mnogi osjećaju duboku nelagodu zbog ideje da bismo mogli rutinski komunicirati s digitalnim simulacijama voljenih osoba koje više nisu s nama. Kao rezultat toga, na 'mračnu magiju nekromancije potpomognute umjetnom inteligencijom' gleda se sa sumnjom.

Ovo bi moglo zabrinuti neke ljude, no sociolozi, koji su također eksperimentirali s oživljavanjem mrtvih pomoću generativne umjetne inteligencije, smatraju da nema razloga za zabrinutost.

'To je uobičajena pojava'

'Nastavak veza s mrtvima putem teksta, fotografija i artefakata uobičajena je pojava – dio je naših života s drugima, živima i mrtvima. Ljudi su dugo pridavali emocionalnu vrijednost likovima i relikvijama kao sredstvima da mrtve (za)drže uz sebe. Slikanje portreta tako više nije bio široko prihvaćen način čuvanja sjećanja na voljene osobe nakon širenja fotografije u 19. stoljeću.

Mnogi od nas danas imaju fotografije i videosnimke svojih voljenih iz prošlosti, kojima se vraćamo kao uspomenama i utjesi. I, naravno, likovi, djela ili ostaci poznatih ljudi kruže da bi se sačuvali – često po njihovu nalogu – sve dok bilježimo povijest. Vjerske relikvije u različitim kulturama samo su jedan primjer toga.

Kada je u pitanju generativna umjetna inteligencija, ne događa se ništa što bi posebno definiralo svijet. Brzina kojom su iskorištene nekromancijske mogućnosti umjetne inteligencije govori nam puno o tome koliko dobro tehnologija radi s našim postojećim praksama tugovanja, sjećanja i komemoracije – umjesto da ih 'ometa' ili 'mijenja', pišu sociolozi za The Conversation.

Je li strah opravdan?

No ima i protivnika ovakvog korištenja umjetne inteligencije. Kao što je navela Debra Bassett, koja je opsežno proučavala digitalne zagrobne živote, neki protivnici ove upotrebe umjetne inteligencije izjavili su da su zabrinuti da bi oživljeni mogli biti natjerani da govore stvari koje ne bi izgovorili da su živi te da umjesto toga glume po tuđem scenariju. Bassett brine to što se mrtvi 'zombificiraju', čime se krši njihov integritet.

'To je, naravno, mogućnost, ali te stvari uvijek trebamo promatrati od slučaja do slučaja. Općenito, međutim, trebali bismo zapamtiti da cijelo vrijeme zamišljamo i započinjemo razgovore s mrtvima. U trenucima krize ili radosti razmišljamo o tome što su nam oni koje smo izgubili mogli reći, o stavovima koje su mogli imati i ohrabrenju koje su mogli ponuditi u odnosu na izazove i postignuća ovdje i sada.

Fotografije, tekst i artefakti poput prošlih posjeda ili cijenjenog nasljeđa dugo su bili uporabljivi mediji za takvu vrstu zajedništva, a nove tehnologije - kamere i uređaji za snimanje - uvijek su činile takve medije lakšim i šire dostupnim', ustvrdili su britanski sociolozi.

Stoga smatraju da je strah od širenja 'digitalne nekromancije' neopravdan i prenapuhan te da ove mogućnosti moramo koristiti kao kanale za sjećanje na bližnje kojih više nema, a usto moramo uvijek biti svjesni toga da svi ti zapisi koje AI kreira nisu sami naši voljeni.