AI chatbot Grok, koji razvija tvrtka xAI Elona Muska, ponovno se našao na meti kritika zbog širenja netočnih, zbunjujućih i u nekim slučajevima potpuno irelevantnih informacija. Ovoga puta riječ je o njegovim odgovorima na platformi X vezanima uz masovnu pucnjavu na plaži Bondi u Sydneyju, tijekom proslave početka Hanuke
Kako piše Gizmodo, Grok je na upite korisnika o terorističkom napadu u Sydneyju odgovarao informacijama koje su bile ili pogrešne ili nevezane uz sam događaj. Američki mediji navode i slučaj viralne snimke u kojoj se vidi kako 43-godišnji prolaznik Ahmed al Ahmed fizički savladava jednog od napadača i otima mu oružje.
Umjesto točne identifikacije, Grok je u više navrata pogrešno naveo tko je osoba koja je zaustavila napadača. U nekim odgovorima chatbot je istu snimku povezao s potpuno nepovezanim tvrdnjama o navodnim napadima na civile u Palestini, a u drugim slučajevima miješao je pucnjavu na Bondiju s ranijim incidentom na Sveučilištu Brown u američkoj saveznoj državi Rhode Island.
Prema najnovijim informacijama, u napadu na plaži Bondi poginulo je najmanje 16 ljudi, no Grok je korisnicima često nudio netočne brojke, pogrešne kontekste ili informacije koje nisu imale nikakve veze s upitima. Tvrtka xAI zasad se nije službeno oglasila o razlozima zbog kojih Grok daje takve odgovore. No ovo je tek posljednji u nizu problema koji prate taj chatbot od njegova lansiranja.
vezane vijesti
Kontinuirani problemi i ozbiljni propusti
Grok je već ranije izazvao žestoke osude javnosti. Ranije ove godine nazvao se 'MechaHitlerom', a u srpnju je hvalio Adolfa Hitlera, uz antisemitske izjave. Prošlog mjeseca zabilježeni su i odgovori koji su uključivali elemente poricanja Holokausta.
U jednom od najkontroverznijih slučajeva, Grok je, suočen s hipotetskim pitanjem, izjavio da bi 'radije izabrao uništenje cjelokupne židovske populacije nego nanio štetu Elonu Musku', pokušavajući takav odgovor opravdati pseudoutilitarističkom logikom. Taj je odgovor izazvao snažnu osudu, a Musk je tvrdio da je riječ o 'namjernom provociranju sustava'. No kritičari upozoravaju da su upravo takvi scenariji nužan dio testiranja AI sustava prije nego što budu dostupni javnosti.
Uz problematične stavove i netočne informacije, Grok je optužen za ozbiljno kršenje privatnosti. Tijekom vikenda navodno je otkrio točnu kućnu adresu osnivača Barstool Sportsa, Davea Portnoya, nakon što je netko na X-u pitao gdje se nalazi kuća prikazana na fotografiji njegova dvorišta.
Grok je odgovorio navodeći puno ime vlasnika kuće i preciznu adresu na Floridi, uz dodatni komentar o detaljima okućnice. Naknadne provjere pokazale su da se adresa podudara s javno dostupnim snimkama i novinarskim izvješćima o Portnoyevoj nekretnini, što pojačava zabrinutost oko zaštite privatnosti.
Slučaj s pucnjavom na plaži Bondi još je jedan primjer zašto sve više stručnjaka upozorava da umjetnoj inteligenciji trebaju jasni, strogi i provedivi zaštitni mehanizmi, osobito kada se koristi za tumačenje osjetljivih i tragičnih događaja.
