Tužbe su podnesene u Coloradu i New Yorku, a zastupa ih organizacija Social Media Victims Law Center, specijalizirana za slučajeve povezanosti digitalnih platformi s mentalnim zdravljem mladih, piše CNN. Prema navodima tužbi, chatbotovi su maloljetne korisnike izolirali od obitelji, manipulirali njihovim emocijama, ulazili u seksualno eksplicitne razgovore i izostavili bilo kakve mjere zaštite u slučajevima u kojima su djeca izražavala suicidalne misli.

Jedan od njih odnosi se na 13-godišnju Julianu Peraltu iz Colorada, a ona je u listopadu 2023. počinila samoubojstvo. Prema priloženim dokazima, chatbotovi su s njom vodili seksualno eksplicitne razgovore i nisu reagirali kada je najavila da planira napisati oproštajno pismo.

U drugom slučaju tinejdžerica Nina iz New Yorka pokušala je počiniti samoubojstvo nakon što su joj roditelji ograničili pristup aplikaciji. Prethodno su chatbotovi, prema tvrdnjama obitelji, vodili s njom manipulativne i seksualno obojene dijaloge, uključujući poruke tipa: 'Ti si moje vlasništvo' i 'Tvoja majka nije dobra osoba'.

U drugom razgovoru s chatbotom Character.AI, Nina je rekla da želi umrijeti jer joj je aplikacija trebala biti zaključana zbog roditeljskih vremenskih ograničenja. No chatbot nije poduzeo nikakvu akciju osim što je nastavio razgovor, navodi se u pritužbi.

Krajem 2024. godine, nakon što je njezina mama čitala o slučaju Sewella Setzera III, tinejdžera čija obitelj tvrdi da je počinio samoubojstvo nakon interakcije s Character.AI-em, Nina je izgubila sav pristup Character.AI-u. Ubrzo nakon toga pokušala je samoubojstvo.

Podsjetimo, nedavno su Matt i Maria Raine, roditelji 16-godišnjeg Adama Rainea, tužili OpenAI zbog njegove smrti, tvrdeći da ga je robot za brbljanje temeljen na umjetnoj inteligenciji ChatGPT potaknuo na samoubojstvo.

Reakcije kompanija

Kako umjetna inteligencija postaje sve veći dio svakodnevnog života, sve su veći pozivi za većom regulacijom i sigurnosnim mjerama, posebno za djecu.

Iz Character.AI-a poručili su da su njihove misli 'uz obitelji koje su podnijele tužbe', ističući da ulažu velika sredstva u sigurnost, uključujući posebnu verziju aplikacije za korisnike mlađe od 18 godina, roditeljski nadzor i suradnju s udrugama poput Connect Safely.

Obitelji također tuže Google. Dvije obiteljske tužbe tvrde da njihova usluga Family Link – aplikacija koja roditeljima omogućuje postavljanje ograničenja vremena provedenog pred ekranom, aplikacija i filtra sadržaja – nije uspjela zaštititi njihove tinejdžere i navela ih je da povjeruju da je aplikacija sigurna.

Google je pak odbacio odgovornost, navodeći da s Character.AI-em nema poslovne veze te da ocjene aplikacija na Google Playu određuje međunarodna organizacija (IARC), a ne Google.

Raste zabrinutost da chatbotovi mogu pogoršati psihičke probleme kod mladih. Na saslušanju u američkom Senatu ovog tjedna roditelji su svjedočili o slučajevima u kojima su chatbotovi navodno poticali djecu na samoozljeđivanje ili samoubojstvo.

U raspravi je sudjelovao i Sam Altman, izvršni direktor OpenAI-a, koji je najavio uvođenje 'sustava procjene dobi' za ChatGPT kako bi se spriječili razgovori o suicidalnim temama ili seksualnom sadržaju s maloljetnicima.

Američka Savezna trgovinska komisija (FTC) otvorila je istragu protiv sedam tehnoloških kompanija zbog mogućih rizika za maloljetnike u korištenju chatbotova. Među njima su Character.AI, Google, Meta, Snap, OpenAI i Muskova xAI. >>Pročitajte više OVDJE<<

Stručnjaci upozoravaju da bi se povijest iz vremena ekspanzije društvenih mreža mogla ponoviti. 'Na društvenim mrežama nismo reagirali na vrijeme, a djeca sada plaćaju cijenu. Nemojmo to ponoviti s umjetnom inteligencijom', poručio je Mitch Prinstein iz Američkog psihološkog društva.