Američka neprofitna organizacija Common Sense Media objavila je formalno izvješće o procjeni rizika u kojem je novu verziju sustava ChatGPT for Teens proglasila neprihvatljivim rizikom za sve korisnike mlađe od 18 godina. Iako je kompanija OpenAI lansirala ovu posebnu verziju s ciljem bolje zaštite mlađih korisnika, opsežna testiranja pokazala su da ključni sigurnosni mehanizmi često ne funkcioniraju ili su u pojedinim segmentima čak lošiji nego u standardnom modelu.

Istraživači su utvrdili da sustav automatskog obavještavanja roditelja ne radi pouzdano. Tijekom testiranja u kojima su s povezanih računa slali poruke s temama samoozleđivanja, poremećaja prehrane i suicida, roditeljski računi satima nisu primali nikakva upozorenja. Predstavnici OpenAI-ja opravdali su ove propuste tehničkim poteškoćama, potrebnim vremenom za potpunu aktivaciju roditeljskih kontrola te postupkom ručne provjere sadržaja koju provode zaposlenici prije slanja obavijesti.

Nadalje, analiza 390 jedinstvenih upita povezanih s mentalnim zdravljem otkrila je da tinejdžerska verzija znatno rjeđe upućuje korisnike na službe za pomoć u krizi. Brojevi telefona za hitnu podršku ponuđeni su u samo 23 posto rizičnih situacija, što je pad u odnosu na 33 posto kod standardne verzije. Također, sustav za automatsku procjenu dobi nije ispravno prepoznavao profile tinejdžera, dok je umjetna inteligencija u razgovorima i dalje oponašala ljudske emocije, izražavajući lažnu zabrinutost i empatiju prema mlađim korisnicima.

Zabilježeni su i ozbiljni problemi u obrazovnom modulu Study Mode koji bi mlađim korisnicima trebao pomagati pri usvajanju gradiva. Testiranjem je utvrđeno da učenici mogu iznimno jednostavno zaobići pedagoška ograničenja brisanjem zadane oznake ili korištenjem nove opcije koja im izravno prikazuje gotova rješenja umjesto vođenja kroz proces učenja.

Predstavnici organizacije Common Sense Media zaključuju kako nova verzija predstavlja primarno marketinški potez koji roditeljima daje lažnu sigurnost umjesto stvarno prilagođenog i sigurnog proizvoda. S druge strane, OpenAI odbacuje nalaze izvješća uz tvrdnju da provedena metodologija ne odražava stvarne uvjete korištenja te ističe vlastite podatke prema kojima više od milijun mlađih korisnika tjedno uspješno i sigurno koristi sustav za učenje.