OpenAI je predstavio novu sigurnosnu funkciju za odrasle korisnike ChatGPT-a, usmjerenu na situacije povezane sa samoozljeđivanjem i mentalnim krizama. Nova opcija omogućuje korisnicima da unutar aplikacije odrede 'pouzdani kontakt' koji može biti obaviješten ako sustavi kompanije procijene da korisnik vodi razgovore koji upućuju na ozbiljan rizik od samoozljeđivanja.

Opcija je od četvrtka dostupna svim korisnicima starijima od 18 godina putem postavki ChatGPT-a u obliku opcije za unos e-maila i telefonskog broja druge odrasle osobe kao sigurnog kontakta. Odabrani kontakt zatim dobiva poziv s objašnjenjem funkcije i ima tjedan dana da prihvati ili odbije sudjelovanje. Ako odbije, korisnik može odabrati drugu osobu.

Kako sustav funkcionira?

Prema navodima kompanije, ChatGPT će i dalje automatski preporučivati kontaktiranje linija za pomoć ili hitnih službi kada procijeni da je to potrebno. Nova funkcija dodaje dodatni sloj sigurnosti.

Ako automatizirani sustavi detektiraju razgovore povezane sa samoozljeđivanjem, korisnik će prvo dobiti obavijest da bi njegov pouzdani kontakt mogao biti upozoren te poticaj da se sam javi toj osobi. ChatGPT će pritom ponuditi i prijedloge kako započeti razgovor. Nakon toga situaciju pregledava mali tim posebno obučenih moderatora koji odlučuju treba li doista poslati upozorenje.

Što kontakt vidi?

Ako OpenAI odluči aktivirati upozorenje, kontakt može dobiti obavijest putem e-maila, SMS-a ili unutar aplikacije. Kompanija navodi da poruka neće sadržavati detalje razgovora ni transkripte, nego samo općenitu informaciju da je korisnik možda u psihološkoj krizi.

Uz obavijest će biti uključene i smjernice o tome kako pristupiti razgovoru s osobom koja pokazuje znakove emocionalnih poteškoća, piše Gizmodo.

Milijuni potencijalno rizičnih korisnika

Funkcija dolazi u trenutku sve većeg nadzora nad utjecajem umjetne inteligencije na mentalno zdravlje korisnika. OpenAI je prošle godine objavio podatke prema kojima je 0,07 posto tjednih korisnika pokazivalo znakove psihotičnih ili maničnih epizoda povezanih s korištenjem AI-a.

Dodatnih 0,15 posto korisnika pokazivalo je rizik od samoozljeđivanja ili suicida, dok je isti postotak pokazivao znakove emocionalne ovisnosti o AI sustavima. S obzirom na tvrdnju kompanije da ChatGPT tjedno koristi oko 10 posto svjetske populacije, ti postoci predstavljaju potencijalno milijune korisnika.