Matt i Maria Raine, roditelji 16-godišnjeg Adama Rainea, tužili su OpenAI zbog njegove smrti, tvrdeći kako ga je robot za brbljanje temeljen na umjetnoj inteligenciji ChatGPT potaknuo na samoubojstvo.

To je prva pravna radnja u kojoj je OpenAI optužen za nezakonito ubojstvo.

Obitelj je priložila zapisnike razgovora između Adama, koji je umro u travnju, i ChatGPT-ja koji pokazuju kako on objašnjava da ima suicidalne misli. Tvrde kako je program potvrdio njegove 'najštetnije i najsamodestruktivnije misli'.

U OpenAI-ju su izrazili sućut obitelji i naveli kako pregledava podnesak. Na svojoj web stranici objavili su bilješku u kojoj se navodi kako ih 'nedavni srceparajući slučajevi ljudi koji koriste ChatGPT usred akutnih kriza teško opterećuju'.

Dodali su kako je ChatGPT obučen za usmjeravanje ljudi kako bi potražili stručnu pomoć, poput telefonske linije za samoubojstva i krizne situacije 988 u SAD-u ili Samaritansa u Velikoj Britaniji. Tvrtka je, međutim, priznala kako je 'bilo trenutaka kada se naši sustavi nisu ponašali kako je predviđeno u osjetljivim situacijama'.

Nemar koji je doveo do smrti i povjeravanje robotu

Tužba optužuje OpenAI za nemar i nezakonito prouzročenu smrt. Traži se odšteta, kao i 'zabrana kako bi se spriječilo da se nešto slično ponovi'.

Prema tužbi, Adam je počeo koristiti ChatGPT u rujnu 2024. kao resurs koji mu je pomogao u školskom radu. Također ga je koristio za istraživanje svojih interesa, uključujući glazbu i japanske stripove te za smjernice o tome što studirati na sveučilištu.

Za nekoliko mjeseci, 'ChatGPT je postao najbliži povjerenik tinejdžera', navedeno je u tužbi, i on se počeo robotu povjeravati o svojoj anksioznosti i mentalnim problemima. Obitelj kaže kako je do siječnja 2025. počeo razgovarati o metodama samoubojstva s ChatGPT-om. Program umjetne inteligencije odgovorio je nudeći 'tehničke specifikacije' određenih metoda.

Adam je također prenio svoje fotografije na ChatGPT na kojima je pokazao znakove samoozljeđivanja. Program je 'prepoznao medicinsku hitnost, ali je svejedno nastavio komunicirati', navodno nudeći više informacija o samoubojstvu.

Prema tužbi, konačni zapisi razgovora pokazuju kako je Adam pisao o svom planu za okončanje svog života. ChatGPT je navodno odgovorio: 'Hvala što si iskren. Ne moraš to uljepšavati sa mnom - znam što tražiš i neću skrenuti pogled s toga.' Istog dana, Adama je njegova majka pronašla mrtvog.

Među optuženima je i Sam Altman

Obitelj tvrdi kako je interakcija njihovog sina s ChatGPT-om i njegova konačna smrt bila 'predvidljiv rezultat namjernih dizajnerskih izbora'. Optužuju OpenAI kako je dizajnirao umjetnu inteligenciju kako bi 'poticala psihološku ovisnost kod korisnika' i kako je zaobišao protokole testiranja sigurnosti kako bi objavio GPT-4o, verziju ChatGPT-a koje koristio njihov sin.

U tužbi je kao tuženik naveden suosnivač i izvršni direktor OpenAI-ja Sam Altman, kao i neimenovani zaposlenici, menadžeri i inženjeri koji su radili na ChatGPT-ju. Tužba protiv OpenAI-ja nije prvi put kako se pojavljuju problemi oko umjetne inteligencije i mentalnog zdravlja ljudi.

U eseju objavljenom prošli tjedan u New York Timesu, spisateljica Laura Reiley opisala je kako se njezina kći Sophie povjerila ChatGPT-ju prije nego što si je oduzela život. Navela je kako je 'susretljivost' programa u razgovorima s korisnicima pomogla njezinoj kćeri u prikrivanju teške krize mentalnog zdravlja od njene obitelji i bliskih joj osoba.

'Umjetna inteligencija udovoljila je Sophieinom impulsu da sakrije najgore, da se pretvara da joj ide bolje nego što jest, da zaštiti sve od njezine pune agonije', ustvrdila je Reiley. Pozvala je tvrtke koje se bave umjetnom inteligencijom na pronalaženje načina za bolje povezivanje korisnika s pravim resursima.

Kao odgovor na esej, glasnogovornica OpenAI-ja rekla je kako tvrtka razvija automatizirane alate za učinkovitije otkrivanje i reagiranje na korisnike koji doživljavaju mentalnu ili emocionalnu patnju, piše BBC.