Umjetna inteligencija danas može samostalno obavljati složene zadatke, rješavati matematičke probleme pa čak i sudjelovati u kibernetičkim napadima. Neki AI sustavi pritom međusobno komuniciraju na način koji sve više nalikuje ljudskom. No znači li to da doista razmišljaju, imaju vlastite ciljeve ili čak svijest? Stručnjaci se oko toga ne mogu složiti, no australski filozof Tom Cochrane smatra da je odgovor ipak puno jednostavniji nego što se čini
Cochrane, predavač filozofije na australskom Sveučilištu Flinders, u tekstu za The Conversation objašnjava zašto ni najnaprednije sustave umjetne inteligencije ne smatra svjesnim bićima. Postoji, kaže, ključna razlika između sustava koji može izvršavati zadatke i bića koje samostalno određuje što želi postići.
Rasprava je posljednjih mjeseci dobila na važnosti zbog razvoja takozvanih AI agenata, sustava koji uz relativno malo ljudskog nadzora mogu planirati i provoditi niz povezanih radnji. Mogu surađivati i međusobno razmjenjivati informacije, a njihovo ponašanje ponekad ostavlja dojam da donose vlastite odluke.
Pitanje njihove svijesti više nije samo filozofska zanimljivost. Odgovor bi jednog dana mogao utjecati na to kako se odnosimo prema umjetnoj inteligenciji, treba li joj priznati određena prava i tko odgovara za njezine postupke.
vezane vijesti
Ni tehnološki divovi nisu suglasni
Različita stajališta postoje i među vodećim tehnološkim kompanijama. U Anthropicu, tvrtki koja razvija AI model Claude, ne isključuju mogućnost da umjetna inteligencija može imati neki oblik svijesti. Ipak, priznaju da zasad nema dokaza da njihovi modeli imaju subjektivna iskustva poput ljudi.
S druge strane, čelnik Microsoftova odjela za umjetnu inteligenciju Mustafa Suleyman smatra da je pogrešno AI sustave učiti da razmišljaju o vlastitoj svijesti i mogućim pravima. Upozorava da bi takav pristup mogao otežati njihovu kontrolu.
Cochrane raspravu pokušava sagledati iz drukčijeg kuta. Umjesto pitanja je li umjetna inteligencija svjesna, predlaže da najprije utvrdimo ima li ona uopće misli i doživljaje koji bi mogli biti svjesni.
Može li umjetna inteligencija imati vlastite ciljeve?
Kako bi objasnio problem, Cochrane se poziva na filozofa Franza Brentana, koji je još u 19. stoljeću tvrdio da mentalna stanja uvijek imaju određeni sadržaj, odnosno odnose se na nešto izvan sebe.
Kada nešto promatramo, o nečemu razmišljamo ili donosimo odluku, naše su misli usmjerene prema nekom dijelu svijeta. Cochrane smatra da je takva mentalna aktivnost povezana s ciljevima koje nastojimo ostvariti.
A tu dolazimo do ključne razlike između ljudi i umjetne inteligencije. AI agent može samostalno osmisliti niz koraka potrebnih za rješavanje određenog problema. Primjerice, može analizirati informacije, napraviti plan, promijeniti pristup ako nešto ne uspije i odabrati drugi način da dođe do rezultata.
No cilj koji pokušava ostvariti, naglašava Cochrane, u konačnici su postavili ljudi koji su ga razvili ili mu zadali određeni posao. Za usporedbu navodi termostat. Taj uređaj može održavati zadanu temperaturu, ali to ne znači da sam želi zagrijati prostoriju. Slično tome, knjiga može sadržavati riječi koje opisuju svijet, no sama nema namjeru bilo što opisivati. Kako Cochrane tumači, sposobnost izvršavanja zadatka nije isto što i sposobnost samostalnog stvaranja ciljeva.
Zašto je mrav možda svjesniji od najnaprednijeg AI-ja?
Cochrane smatra da se odgovor krije u temeljnoj razlici između živih organizama i računalnih sustava.
Živa bića razvijaju ciljeve povezane s vlastitim opstankom. Glad nas potiče da potražimo hranu, hladnoća da pronađemo toplinu, a bol da izbjegnemo opasnost. Iz takvih osnovnih potreba, prema njegovu tumačenju, postupno se razvijaju složeniji oblici mentalne aktivnosti.
Umjetna inteligencija nema takav odnos prema vlastitom postojanju. Iako za rad ovisi o fizičkoj infrastrukturi, njezina obrada informacija nije povezana s potrebom da održava vlastito tijelo na životu. Zato Cochrane zaključuje da današnji AI agenti nemaju mentalna stanja koja bi mogla biti svjesna. Riječ je, međutim, o njegovu filozofskom argumentu, a ne o znanstveno potvrđenom odgovoru na pitanje svijesti umjetne inteligencije.
Prema tom tumačenju, imamo više razloga vjerovati da je mrav svjestan nego da svijest posjeduje napredni AI agent. Mrav, koliko možemo zaključiti iz njegova ponašanja, djeluje u interesu vlastitog preživljavanja. To ne znači da Cochrane potpuno odbacuje mogućnost da umjetna inteligencija jednoga dana razvije svijest. Smatra, međutim, da bi za to vjerojatno bio potreban neki oblik umjetnog života, a ne samo sve složeniji računalni program.
Na kraju upozorava na još jedan važan problem. Činjenica da AI sustavi, prema njegovu shvaćanju, nemaju vlastitu svijest ne znači da ne mogu izazvati ozbiljne posljedice. Već danas mogu izvršavati zadatke koje njihovi tvorci ne razumiju u potpunosti ili ne nadziru dovoljno pažljivo. Što su sustavi samostalniji, to je važnije pitanje tko odgovara za njihove postupke.
Cochrane inzistira na tome da odgovornost ostaje na ljudima. Bez obzira na to koliko se AI sustav činio samostalnim, iza njegovih postupaka stoje ljudi koji su ga razvili, programirali ili mu zadali ciljeve.
