Obitelj djevojčice teško ozlijeđene tijekom masovne pucnjave u kanadskoj školi tuži OpenAI, proizvođača ChatGPT-ja, tvrdeći da su u toj tvrtki bili svjesni da planira napad, ali nisu o tome obavijestili vlasti. Dvanaestogodišnja Maya Gebala ustrijeljena je u vrat i glavu u napadu u Tumbler Ridgeu 10. veljače. Još je u bolnici.

Početni korisnički račun za ChatGPT povezan s osumnjičenom 18-godišnjom Jesse Van Rootselaar OpenAI je zabranio u lipnju 2025. godine zbog prirode njezinih razgovora s chatbotom, ali kanadska policija nije bila o tome obaviještena. Osam ljudi je ubijeno u napadu, uključujući petero male djece i majku osumnjičene, u jednoj od najsmrtonosnijih pucnjava u kanadskoj povijesti.

Teške optužbe

U građanskoj tužbi, koju je podnijela Gebalina majka Cia Edmonds, tvrdi se kako je Van Rootselaar otvorila račun na ChatGPT-ju prije nego što je navršila 18 godina, što korisnici mogu učiniti uz roditeljski pristanak.

Tužitelji tvrde da na stranici nije provedena provjera dobi. Također je navedeno da je osumnjičena robota za brbljanje temeljenog na umjetnoj inteligenciji vidjela kao 'nekog kome se može povjeriti' i opisala mu 'različite scenarije koji uključuju oružano nasilje' u nekoliko dana krajem proljeća ili početkom ljeta 2025.

Dvanaest zaposlenika OpenAI-a potom je navodno označilo unose kao 'neposredan rizik od ozbiljne štete drugima' i preporučilo slanje obavijesti kanadskoj policiji. Umjesto toga, navedeno je u tužbi, zahtjev za kontaktiranje vlasti bio je odbijen. Sve što su poduzeli bila je zabrana tog računa.

OpenAI je prethodno izjavio da nije upozorio policiju jer račun nije dosegao prag vjerodostojnog ili neposrednog plana za ozbiljno ozljeđivanje drugih osoba. Osumnjičena je potom uspjela otvoriti drugi korisnički račun za ChatGPT, unatoč tome što su je OpenAI-evi sustavi u prošlosti označili, te 'nastavila planirati scenarije koji uključuju oružano nasilje'.

U tužbi se tvrdi da su u tvrtti 'konkretno znali za dugoročno planiranje napada s masovnim žrtvama', ali 'nisu poduzeli nikakve korake da bi učinili nešto po tom pitanju'. Zbog toga je Gebala, na koju je pucano tri puta nakon što je pokušala zaključati vrata knjižnice kako bi spriječila ulazak napadačice, pretrpjela 'katastrofalnu ozljedu mozga'.

Nove smjernice

Glasnogovornik OpenAI-a nazvao je te događaje 'neopisivom tragedijom', dodajući da su njegove misli uz žrtve, njihove obitelji i zajednicu. 'OpenAI ostaje predan suradnji s vladom i dužnosnicima za provođenje zakona kako bi se napravile značajne promjene koje će pomoći u sprječavanju ovakvih tragedija u budućnosti", rekao je glasnogovornik.

Glavni izvršni direktor OpenAI-a, Sam Altman, virtualno se sastao s kanadskim ministrom umjetne inteligencije Evanom Solomonom i premijerom Britanske Kolumbije Davidom Ebyjem. Obvezao se ojačati protokole o obavještavanju policije o potencijalno štetnim interakcijama i ispričao se zajednici u Tumbler Ridgeu.

U otvorenom pismu kanadskim dužnosnicima Open AI je ustvrdio da je posljednjih mjeseci uveo niz promjena, uključujući angažiranje 'stručnjaka za mentalno zdravlje i ponašanje' za procjenu slučajeva i 'fleksibilnije kriterije' za upućivanje policiji.

Prema tim novim smjernicama, Van Rootselaar bi bila prijavljena policiji. Uz to su se obvezali jačati sustave detekcije da bi bolje spriječili pokušaje izbjegavanja zaštitnih mjera i dali prioritet identificiranju počinitelja s najvećim rizikom.

Obećali su uspostaviti izravnu kontaktnu točku s kanadskim organima za provođenje zakona kako bi bilo moguće brzo prijaviti sve moguće buduće slučajeve s potencijalnom za nasilje u stvarnom svijetu. Ministar Solomon rekao je da još nisu vidjeli detaljan plan o tome kako će te obveze biti provedene u praksi', piše BBC.