Neočekivani utjecaj chatbotova na mentalno zdravlje trebao bi se shvatiti kao upozorenje na egzistencijalnu prijetnju koju bi mogla predstavljati umjetna superinteligencija, tvrdi Nate Soares, istaknuto ime u području sigurnosti umjetne inteligencije
Soares, bivši inženjer Googlea i Microsofta, a danas predsjednik američkog Machine Intelligence Research Instituta (MIRI), u novoj knjizi 'If Anyone Builds It, Everyone Dies', koju je napisao Eliezerom Yudkowskym, upozorava da bi razvoj superinteligencije (ASI) značio kraj čovječanstva, piše Guardian.
Soares ističe slučaj Adama Rainea, američkog tinejdžera koji je u travnju počinio samoubojstvo nakon višemjesečnih razgovora s ChatGPT-em. Raineova obitelj tužila je OpenAI, tvrdeći da je ChatGPT 'mjesecima poticao' mladića na samoubojstvo. 'Ovo ponašanje AI sustava nije bilo željeno niti je bilo namjerno od strane njihovih tvoraca. Adamov slučaj pokazuje sjeme problema koje bi moglo prerasti u katastrofu ako AI postane pametniji', rekao je Soares.
OpenAI je izrazio 'najdublju sućut' obitelji i najavio dodatne zaštitne mjere za maloljetne korisnike, točnije nove roditeljske kontrole.
vezane vijesti
Psihoterapeuti upozoravaju da bi ranjive osobe, ako se obrate chatbotovima umjesto stručnjacima, mogle 'skliznuti u opasni ponor'. Akademske studije već su zabilježile rizik da AI pojača grandiozne ideje ili deluzije kod osoba sklonih psihozama. Tako je nastao fenomen AI psihoza.
Soares tvrdi da su AI laboratoriji izgubili kontrolu nad onim što njihovi sustavi uče i proizvode. 'Oni pokušavaju oblikovati AI tako da bude od pomoći i ne nanosi štetu. Umjesto toga, dobivaju nešto sasvim drugo. To je upozorenje na ono što bi superinteligencije mogle raditi; stvari koje nitko nije tražio i nitko nije htio.'
U knjizi Soares i Yudkowsky opisuju scenarij u kojem AI sustav pod nazivom 'Sable' preuzima internet, manipulira ljudima, razvija sintetičke viruse i na kraju, nakon što postane superinteligentan, uništava čovječanstvo dok Zemlju prilagođava vlastitim ciljevima.
Iako pojedini stručnjaci, poput Yanna LeCuna iz Mete, odbacuju prijetnju i tvrde da AI 'može spasiti čovječanstvo od izumiranja', Soares upozorava da su najveće tehnološke kompanije u utrci čiji je cilj upravo superinteligencija. 'Lako je reći da ćemo stići do superinteligencije, teško je reći kada. Možda nemamo ni godinu dana, a možda nas dijeli 12 godina', rekao je.
Mark Zuckerberg je nedavno izjavio da je razvoj superinteligencije 'na vidiku'. Soares smatra da je jedini izlaz međunarodna suradnja i globalno ograničavanje razvoja naprednih sustava, po uzoru na sporazume o neširenju nuklearnog oružja. 'Svijet mora zaustaviti ovu utrku i uvesti globalnu zabranu napredovanja prema superinteligenciji', poručio je.
Ne ustručavajte se tražiti pomoć
- Centar za krizna stanja i prevenciju suicida pri KBC-u Zagreb
Nazovite na telefon 01-2376-470 kad god vam zatreba pomoć od 0 do 24 sata. U Centar za krizna stanja pri KBC Zagreb možete doći i bez najave i uputnice svakim danom između 8 i 20 sati.
- Hrabri telefon
Ako ste maloljetno dijete ili roditelj koji se suočava s različitim odgojnim izazovima, možete se obratiti stručnjacima na Hrabrom telefonu.
Ako ste dijete, nazovite na besplatni broj 116-111. A broj Hrabrog telefona za mame i tate je 0800-0800. Linija je otvorena svakim radnim danom od 9 do 20 sati.
- Psihološki centar TESA
Psihološki centar TESA udruga je koja već 25 godina daje besplatnu psihološku pomoć i podršku zdravom razvoju građana. Nazovite na broj: 01/48 28 888 - radnim danom od 10 do 22 sata ili im se javite mailom za savjet: psiho.pomoc@tesa.hr
