Generativni modeli umjetne inteligencije dostupni su u gotovo cijelom svijetu. I dok ih većina korisnika koristi za pomoć u poslu i svakodnevnom životu, neki s njima imaju zle namjere
Jedan od velikih problema koji se pojavio s pojavom različitih generativnih modela umjetne inteligencije je jednostavno i brzo stvaranje velike količine ilegalnog sadržaja. Pri tome se prvenstveno misli na govor mržnje i materijale o seksualnom zlostavljanju djece.
Poseban je problem što su brojni modeli koji su se pojavili zapravo otvorenog koda, pa ih svatko može prilagoditi svojim potrebama. Poput stvaranja fotografija koje prikazuju seksualno zlostavljanje ili dječju pornografiju.
vezane vijesti
Kako piše MIT News, istraživači koji se bave testiranjem umjetne inteligencije često se nađu u problemu - kako testirati model, a da pri tome sami ne stvore ilegalan sadržaj? Kako bi to riješili, grupa istraživača s MIT-a udružila je snage s neprofitnom organizacijom za sigurnost djece, Thorn, i razvila novu tehniku revizije koja određuje može li neki model generativne AI proizvesti ilegalni sadržaj, bez da ga na to upozori.
Njihova tehnika ispituje kako su prilagođeni unutarnji mehanizmi modela, ali ne generira sam sadržaj. Ispitivanjem skrivenih prikaza mogu pouzdano zaključiti je li model specijaliziran za stvaranje ilegalnog sadržaja.
Tijekom testiranja, ističe MIT News, postupak revizije identificirao je varijacije modela koje su bile specijalizirane za generiranje takvog sadržaja za 100-postotnom točnošću.
Kako ističu istraživači, njihov postupak mogle bi koristiti platforme za hosting kako bi prepoznale, označile i uklonile takve modele sa svoje platforme.
'Prije nismo imali načina da to izmjerimo. Bila je to ogromna slijepa točka koju su neki ljudi iskorištavali. Sada se možemo pozabaviti problemom sigurnosti umjetne inteligencije koji ima ozbiljne negativne utjecaje', kaže Vinith Suriyakumar, diplomirani student elektrotehnike i računarstva (EECS) na MIT-u i glavni autor rada o ovoj tehnici.
Važno je napomenuti da je njihova tehnika skalabilna i da bi njena implementacija bila relativno jeftina. Budući da se tisuće varijacija modela objavljuju online svaki mjesec, skalabilnost je ključna kako bi se revizorima pomoglo u uklanjanju štetnih varijacija prije nego što se prošire.
