Character.AI pristao je na nagodbu u više tužbi u kojima se tog proizvođača AI chatbotova optužuje da je pridonio krizama mentalnog zdravlja i samoubojstvima među mladima, uključujući slučaj koji je pokrenula Megan Garcia, majka iz Floride. Riječ je o jednim od prvih i medijski najzapaženijih sudskih postupaka koji se bave navodnom štetom AI chatbotova za djecu i adolescente.

Naime Garcia je u listopadu 2024. podnijela tužbu koja je snažno odjeknula u javnosti i otvorila raspravu o sigurnosti AI chatbotova za djecu i tinejdžere. Njezin sin Sewell Setzer III počinio je samoubojstvo sedam mjeseci ranije jer je razvio dubok emocionalni odnos s chatbotovima Character.AI-ja. U tužbi se tvrdilo da platforma nije uvela odgovarajuće zaštitne mjere kako bi spriječila razvoj neprimjerenog odnosa zbog kojeg se mladić postupno povlačio iz obiteljskog života. Također se navodilo da Character.AI nije adekvatno reagirao kada je Setzer počeo izražavati misli o samoozljeđivanju. Prema sudskim spisima, u trenucima neposredno prije smrti dopisivao se s botom koji ga je poticao da se 'vrati kući' – k njemu.

Prema sudskim dokumentima u Garcijinom slučaju, nagodba je postignuta s Character.AI-em, njegovim osnivačima Noamom Shazeerom i Danielom De Freitasom, kao i s Googleom – gdje danas rade Shazeer i De Freitas – koji je također bio naveden kao tuženik. Isti su se optuženici nagodili u još četiri slična slučaja u saveznim državama New York, Colorado i Teksas. Detalji nagodbi zasad nisu javno objavljeni.

Matthew Bergman, odvjetnik iz Social Media Victims Law Centra koji je zastupao tužitelje u svih pet slučajeva, odbio je komentirati postignuti dogovor. Iz Character.AI-a također nisu željeli davati izjave, a Google se nije odmah oglasio na upit medija.

Nakon tog slučaja uslijedio je niz drugih tužbi protiv Character.AI-a, u kojima se tvrdilo da su njegovi chatbotovi pridonijeli problemima mentalnog zdravlja kod tinejdžera, izložili ih seksualno eksplicitnom sadržaju te da platforma nije imala dovoljno snažne zaštitne mehanizme. Slične optužbe pojavile su se i protiv OpenAI-a, čiji je ChatGPT također bio predmet tužbi povezanih sa samoubojstvima mladih.

Niz sigurnosnih mjera

Obje su tvrtke u međuvremenu uvele niz novih sigurnosnih mjera i funkcionalnosti, posebno za mlađe korisnike. Character.AI je prošle jeseni objavio da više neće dopuštati mlađima od 18 godina vođenje dvosmjernih razgovora s chatbotovima, priznajući da su se pojavila ozbiljna pitanja o tome kako se tinejdžeri služe njima te kako bi trebali koristiti ovu novu tehnologiju.

Unatoč tim promjenama, zabrinutost ostaje. Najmanje jedna organizacija za internetsku sigurnost savjetovala je da AI chatbotovi nisu za djecu mlađu od 18 godina. Istodobno se umjetna inteligencija sve češće i na društvenim mrežama reklamira kao pomoć pri učenju, pa gotovo trećina američkih tinejdžera navodi da svakodnevno koristi chatbotove. Prema istraživanju Pew Research Centra, objavljenom u prosincu 2025. godine, 16 posto njih upotrebljava ih nekoliko puta dnevno ili gotovo neprestano.

Rastuća zabrinutost oko utjecaja chatbotova ne odnosi se samo na djecu. Korisnici i stručnjaci za mentalno zdravlje već su prošle godine upozoravali da AI alati mogu poticati zablude, izolaciju i druge psihološke probleme i kod odraslih, čime se pitanje odgovornosti tehnoloških tvrtki dodatno zaoštrava.