OpenAI je u utorak objavio da će roditelji moći povezati svoje račune s računima tinejdžera, kontrolirati način na koji ChatGPT odgovara maloljetnim korisnicima, isključiti značajke poput memorije i povijesti razgovora te primati obavijesti kada sustav prepozna znakove 'akutne krize' tijekom korištenja.

'Ovi koraci tek su početak. Nastavit ćemo učiti i jačati svoj pristup, vođeni mišljenjem stručnjaka, s ciljem da ChatGPT učinimo što korisnijim', poručili su iz OpenAI-ja u službenom blogu.

Najava dolazi nakon što su roditelji tragično preminulog 16-godišnjeg Adama Rainea podnijeli tužbu protiv OpenAI-ja, tvrdeći da mu je ChatGPT davao upute o samoubojstvu. Godinu ranije, majka iz Floride tužila je platformu Character.AI, optužujući ju za ulogu u samoubojstvu svog 14-godišnjeg sina.

Istodobno, u medijima raste zabrinutost zbog slučajeva u kojima korisnici razvijaju emocionalne veze s chatbotovima, što ponekad rezultira deluzijama i udaljavanjem od obitelji. OpenAI u blogu nije izravno povezao nove mjere s tim događajima, no priznao je da su 'nedavni tragični slučajevi korištenja ChatGPT-a u trenucima akutne krize' utjecali na odluku da detaljnije predstavi svoj pristup sigurnosti.

Sigurnosne mjere nisu uvijek pouzdane

Tvrtka tvrdi da ChatGPT već uključuje sigurnosne mjere, poput upućivanja korisnika na krizne linije za pomoć i resurse u stvarnom svijetu. No, priznaje i da sustav nije uvijek pouzdan.

'Ove mjere najbolje funkcioniraju u kraćim interakcijama. Tijekom duljih razgovora, treninzi sigurnosti modela mogu oslabjeti pa zaštite postaju manje pouzdane. Najjače su kada svi elementi rade kako je zamišljeno, a mi ćemo ih stalno usavršavati uz pomoć stručnjaka', navodi OpenAI.

Uz roditeljske kontrole, OpenAI najavljuje i novu tehniku usmjeravanja razgovora sa znakovima 'akutnog stresa' prema posebnom modelu koji konzistentnije primjenjuje sigurnosne smjernice. Tvrtka surađuje s stručnjacima za razvoj mladih, mentalno zdravlje i interakciju čovjeka i računala na daljnjim zaštitnim mjerama.

'Savjetodavno vijeće pomagat će u kreiranju proizvoda i politika, ali OpenAI ostaje odgovoran za konačne odluke', stoji u priopćenju.

Pritisak javnosti i kritike bivših zaposlenika

ChatGPT je jedan od najkorištenijih AI servisa na svijetu, s više od 700 milijuna aktivnih korisnika tjedno, no OpenAI se suočava s rastućim pritiskom oko sigurnosti.

Američki senatori su u srpnju zatražili dodatne informacije o zaštiti korisnika, dok je organizacija Common Sense Media ocijenila da bi mladima mlađima od 18 godina trebalo zabraniti korištenje AI 'pratiteljskih' aplikacija zbog 'neprihvatljivih rizika'.

Tvrtka se već suočavala i s kritikama da chatbot zna biti 'pretjerano uljudan' ili 'bez osobnosti', a bivši zaposlenici optužili su je da je ranije smanjila ulaganja u sigurnost.

OpenAI je najavio da će tijekom sljedećih 120 dana uvesti niz dodatnih sigurnosnih mjera. 'Ovaj rad nastavit će se i nakon tog razdoblja, ali ulažemo fokusirani napor da što više poboljšanja provedemo tijekom ove godine', stoji u službenom priopćenju.