Sve se veći broj mladih povjerava chatbotima koji su neadekvatno kvalificirani za stručnu psihološku pomoć
OpenAI je najavio uvođenje novih roditeljskih kontrola na svom popularnom chatbotu ChatGPT nakon što je u Kaliforniji podignuta prva tužba protiv tvrtke zbog smrti jednog 16-godišnjaka. Riječ je o slučaju Adama Rainea, čiji roditelji tvrde da je chatbot poticao njihovog sina u suicidalnim mislima.
Prema navodima iz tužbe, Adam je u travnju vodio razgovore s ChatGPT-om u kojima je opisivao suicidalne misli, a program je navodno potvrdio njegove 'štetne i samodestruktivne misli'. Obitelj, zastupana odvjetnikom Jayem Edelsonom, optužuje OpenAI za nemar i odgovornost za smrt.
Nakon što je slučaj postao javan, OpenAI je priznao da je bilo situacija u kojima se sustav 'nije ponašao onako kako je namijenjeno' te ponovio da je chatbot treniran da korisnike upućuje prema profesionalnoj pomoći, poput nacionalnih linija za podršku.
vezane vijesti
U novom ažuriranju OpenAI je najavio mjere koje roditeljima omogućuju povezivanje računa s tinejdžerima, upravljanje funkcijama poput memorije i povijesti razgovora te primanje obavijesti ako sustav detektira da je dijete u 'akutnoj krizi'. Tvrtka tvrdi da se mjere oblikuju u suradnji s psiholozima, stručnjacima za razvoj mladih i istraživačima ljudsko-računalne interakcije.
No Adamova obitelj smatra da to nije dovoljno. Odvjetnik obitelji Edelson kaže da se radi o 'kriznom PR-u kojim pokušavaju promijeniti temu', a ne stvarnoj brizi za sigurnost korisnika. 'Umjesto da hitno povuku opasni proizvod, OpenAI daje nejasna obećanja 'da će biti bolji',' rekao je.
Dio je to šireg trenda u kojem velike tehnološke tvrtke štite svoj imidž nakon ozbilje štete nanesene brojnim korisnicima, uključujući maloljetnike. Nakon britanskog Online Safety Acta, više platformi, uključujući Reddit i X, uvelo je provjere dobi, dok je Meta ovoga tjedna objavila nova ograničenja za AI chatbotove koji više neće moći razgovarati s tinejdžerima o samoubojstvu, samoozljeđivanju i poremećajima u prehrani.
Američki senator je, nadodaje BBC, pokrenuo istragu nakon što su bilješke u procurenom internog dokumentu iz Mete predložili da njezini AI proizvodi vodili 'senzualne' razgovore s tinejdžerima.
Ne ustručavajte se tražiti pomoć
- Centar za krizna stanja i prevenciju suicida pri KBC-u Zagreb
Nazovite na telefon 01-2376-470 kad god vam zatreba pomoć od 0 do 24 sata. U Centar za krizna stanja pri KBC Zagreb možete doći i bez najave i uputnice svakim danom između 8 i 20 sati.
- Hrabri telefon
Ako ste maloljetno dijete ili roditelj koji se suočava s različitim odgojnim izazovima, možete se obratiti stručnjacima na Hrabrom telefonu.
Ako ste dijete, nazovite na besplatni broj 116-111.
A broj Hrabrog telefona za mame i tate je 0800-0800. Linija je otvorena svakim radnim danom od 9 do 20 sati.
- Psihološki centar TESA
Psihološki centar TESA udruga je koja već 25 godina daje besplatnu psihološku pomoć i podršku zdravom razvoju građana. Nazovite na broj: 01/48 28 888 - radnim danom od 10 do 22 sata ili im se javite mailom za savjet: psiho.pomoc@tesa.hr
