Internetska nagrada inspirirana Darwinovim nagradama izabire najveće neuspjehe umjetne inteligencije u prošlih godinu dana. Dodjela nagrada održat će se u siječnju iduće godine
Nova internetska nagrada pod nazivom AI Darwin Awards nastala je s idejom da se proslave najgore, najnepromišljenije i najopasnije upotrebe umjetne inteligencije. Organizatori traže od javnosti da šalje nominacije, a cilj im je, kako sami kažu, nagraditi 'vizionare' koji su odlučili prepustiti vlastite loše odluke strojevima.
Za razliku od originalnih Darwin Awards, koji sarkastično obilježavaju ljude što su se na nesretan način sami eliminirali iz ljudskog genetskog bazena, AI verzija fokusira se na tehnološke promašaje i zanemarivanje očitih upozorenja prilikom uvođenja novih AI sustava, piše Euronews.
vezane vijesti
Kriteriji i ironičan proces verifikacije
Kako bi se zaslužila nominacija, projekt ili tvrtka moraju pokazati 'spektakularnu pogrešnu procjenu' i ignoriranje očitih rizika. Posebni bodovi dodjeljuju se slučajevima koji su dospjeli na naslovnice, zahtijevali hitne intervencije ili čak otvorili novu granu istraživanja u području sigurnosti umjetne inteligencije.
Organizatori ističu kako ne ismijavaju samu tehnologiju, nego ljude koji su je koristili 's istom razinom opreza kao dijete s bacačem plamena'. Ironija je da se nominacije provjeravaju pomoću AI fact-checking sustava. Više jezičnih modela, uključujući ChatGPT, Claude i Gemini, ocjenjuju istinitost priče na ljestvici od 1 do 10. Ako prosjek prijeđe pet, priča se smatra dovoljno vjerodostojnom za nominaciju.
vezane vijesti
Rani kandidati: McDonald's i OpenAI
Među prvim nominiranima nalazi se McDonald's, čiji je AI chatbot za zapošljavanje 'Olivia' imao lozinku 123456. Prema dostupnim informacijama, to je dovelo do izlaganja podataka čak 64 milijuna kandidata.
Drugi zapaženi kandidat je OpenAI zbog lansiranja svog najnovijeg modela GPT-5. Francuski podatkovni znanstvenik Sergey Berezin tvrdio je da je uspio natjerati model da izvrši štetne zadatke, a da nikada nije vidio izravne zlonamjerne upute, što je izazvalo zabrinutost oko sigurnosnih mehanizama.
Pobjednici će biti odabrani javnim glasovanjem u siječnju, dok će službena objava biti u veljači. Jedina nagrada nije materijalna - radi se o 'besmrtnoj slavi za njihov doprinos razumijevanju čovječanstva kako ne koristiti umjetnu inteligenciju'.
Organizatori se nadaju da će nagrada poslužiti kao upozorenje budućim kreatorima tehnologije: da se sustavi trebaju testirati i provjeravati prije nego što se puste u široku primjenu.
