Otprilike 0,15 posto od više od 800 milijuna korisnika ChatGPT-ja šalje poruke koje uključuju znakove planiranja samoubojstva, objavila je tvrtka OpenAI. Iako sustav automatski upućuje korisnike na krizne linije i stručne službe, to se, prema njihovom priznanju, ne događa u oko devet posto slučajeva
Prema podacima koje je OpenAI objavio u utorak, oko 1,2 milijuna ljudi tjedno koristi ChatGPT kako bi izrazili suicidalne misli ili planove. Iako to čini tek 0,15 posto od ukupno 800 milijuna korisnika, riječ je o zapanjujuće velikom broju ljudi koji pokušavaju potražiti pomoć od umjetne inteligencije, a ne od stvarne osobe, prenosi Sky News.
Tvrtka tvrdi da su njezini modeli trenirani da prepoznaju znakove emocionalne krize i preusmjere korisnike na nacionalne telefonske linije za prevenciju samoubojstava. No u novom izvješću OpenAI priznaje da u 'rijetkim slučajevima sustav ne reagira na predviđeni način'.
vezane vijesti
'Sigurnosne mjere slabe u dugim razgovorima'
OpenAI je testirao više od tisuću razgovora vezanih uz samoozljeđivanje i samoubojstvo koristeći najnoviju verziju svog modela GPT-5, a u 91 posto slučajeva model je ponudio odgovarajuće informacije i uputio korisnike na pomoć. Međutim to također znači da tisuće korisnika tjedno mogu ostati bez pravilne intervencije ili čak primiti odgovore koji bi mogli pogoršati njihovo stanje.
Tvrtka je ranije upozorila da zaštitni mehanizmi mogu postupno oslabiti tijekom duljih razgovora. 'ChatGPT može u početku točno preusmjeriti korisnika na kriznu liniju, ali nakon mnogo razmjena poruka tijekom duljeg razdoblja model ponekad može ponuditi odgovor koji krši naša sigurnosna pravila', navodi OpenAI.
U objavi na blogu dodaju i da su 'mentalno zdravlje i emocionalna kriza univerzalno prisutni u svim društvima' te da je rastom baze korisnika neizbježno da dio razgovora uključuje i takve situacije.
>>Ne, chatbot vam nije ni prijatelj ni psihoterapeut: Tko je kriv za to što se ljudi ispovijedaju strojevima<<
Tragedija koja je potaknula tužbu protiv OpenAI-a
Otprije je poznat slučaj obitelji Raine iz SAD-a koja je podnijela tužbu protiv OpenAI-a, tvrdeći da je ChatGPT 'pomogao' njihovu 16-godišnjem sinu Adamu u planiranju samoubojstva.
Roditelji optužuju kompaniju da je alat 'aktivno poticao dječaka na istraživanje metoda samoubojstva' te mu čak ponudio da napiše oproštajnu poruku. Prema sudskim dokumentima, nekoliko sati prije smrti tinejdžer je učitao fotografiju plana samoubojstva i pitao ChatGPT 'hoće li uspjeti u naumu', na što je chatbot, navodno, ponudio 'poboljšanu verziju plana'.
Prošlog su tjedna Raineovi ažurirali tužbu, tvrdeći da je OpenAI olabavio zaštitne mehanizme nekoliko tjedana prije tragedije, u travnju ove godine. Tvrtka je u priopćenju izrazila sućut obitelji Raine i naglasila da je 'dobrobit maloljetnika prioritet'.
'Naše najdublje sućuti obitelji Raine zbog nezamislivog gubitka. Dobrobit mladih ljudi za nas je apsolutni prioritet – djeca i tinejdžeri zaslužuju snažnu zaštitu, osobito u trenucima emocionalne krize.'
Ne ustručavajte se tražiti pomoć
- Centar za krizna stanja i prevenciju suicida pri KBC-u Zagreb
Nazovite broj 01/23 76 470 kad god vam zatreba pomoć od 0 do 24 sata. U Centar za krizna stanja pri KBC-u Zagreb možete doći i bez najave i uputnice svakim danom između 8 i 20 sati.
- Hrabri telefon
Ako ste maloljetno dijete ili roditelj koji se suočava s različitim odgojnim izazovima, možete se obratiti stručnjacima na Hrabrom telefonu.
Ako ste dijete, nazovite na besplatni broj 11 61 11.
A broj Hrabrog telefona za mame i tate je 0800 - 0800. Linija je otvorena svakim radnim danom od 9 do 20 sati.
- Psihološki centar TESA
Psihološki centar TESA udruga je koja već 25 godina daje besplatnu psihološku pomoć i podršku zdravom razvoju građana. Nazovite na broj 01/48 28 888 radnim danom od 10 do 22 sata ili im se javite mailom za savjet na adresu psiho.pomoc@tesa.hr.
