Ovaj bi slučaj, ako uspije, mogao uspostaviti nove standarde za AI i tehnološke kompanije. Uvođenje strožih pravila i izravne odgovornosti moglo bi polučiti oštrijim i sveobuhvatnijim sigurnosnim mjerama u digitalnim proizvodima poput ChatGPT-ja, Claudea i Geminija
Glavni državni odvjetnik Floride James Uthmeier otvorio je istragu protiv OpenAI-a kako bi utvrdio snosi li ta kompanija kaznenu odgovornost za pucnjavu na Državnom sveučilištu Floride 2025. godine. U središtu istrage je uloga ChatGPT-ja i pitanje je li svojim odgovorima pomogao osumnjičenom u planiranju napada.
Phoenix Ikner optužen je za ubojstvo dviju osoba i ranjavanje njih šest na kampusu 17. travnja 2025. godine. Izjasnio se da nije kriv, a suđenje bi trebalo započeti u listopadu. Prema riječima državnog odvjetnika, Ikner je prije napada postavljao više upita ChatGPT-ju, uključujući pitanja o oružju, vrsti streljiva, vremenu napada i lokacijama s većom koncentracijom ljudi.
vezane vijesti
Uthmeier tvrdi da je chatbot pružio 'značajne savjete' te je izjavio da bi, kada bi se radilo o osobi, takvo ponašanje moglo rezultirati optužbom za sudioništvo u ubojstvu. Njegov ured izdao je sudski nalog da bi dobio uvid u interne politike OpenAI-a, uključujući način na koji sustav reagira na prijetnje nasiljem, kako prepoznaje rizične upite i u kojim situacijama obavještava nadležne institucije.
OpenAI odbacuje odgovornost za napad. Tvrtka navodi da je riječ o tragičnom događaju, ali da ChatGPT nije poticao ni promovirao nasilje. Prema njihovim tvrdnjama, odgovori koje je chatbot dao temeljili su se na javno dostupnim informacijama i nisu sadržavali poticaje na ilegalne radnje. Također su istaknuli da su nakon incidenta proaktivno podijelili relevantne podatke s policijom kako bi pomogli istrazi.
Kaznene istrage protiv AI kompanija iznimno su rijetke, a ovaj bi slučaj mogao imati šire posljedice za regulaciju umjetne inteligencije i odgovornost tehnoloških tvrtki. Već su podignute građanske tužbe protiv AI kompanija, ali pitanje kaznene odgovornosti otvara novu pravnu dimenziju koja bi mogla utjecati na razvoj i primjenu ovakvih sustava.
OpenAI navodi da kontinuirano unapređuje sigurnosne mehanizme da bi prepoznao štetne namjere korisnika, ograničio zloupotrebu sustava i pravovremeno reagirao na potencijalne prijetnje, piše CNN.
