Tvrtka Meta Platforms je poduzela pravne mjere protiv tvrtke koja na svojim platformama objavljuje oglase promovirajući takozvane nudify aplikacije, koje obično koriste umjetnu inteligenciju za stvaranje lažnih golih slika ljudi bez njihovog pristanka.

Tužila je tvrtku koja stoji iza aplikacija CrushAI kako bi u potpunosti zaustavila objavljivanje oglasa, nakon što je nekoliko mjeseci vodila borbu mačke i miša za njihovo uklanjanje. 'Ova pravna akcija naglašava ozbiljnost kojom shvaćamo ovu zlouporabu i našu predanost da učinimo sve što možemo kako bismo zaštitili našu zajednicu od nje', naveli su iz Mete u objavi na blogu.

Alexios Mantzarlis, autor bloga Faked Up, ustvrdio je kako je na Facebooku i Instagramu objavljeno 'najmanje 10.000 oglasa' koji promoviraju sporne aplikacije. Uvjeren je kako Meta može i mora učiniti više kako bi ih uklonila jer ovaj vektor zlostavljanja zahtijeva kontinuirano praćenje kako bi se ograničio doseg štetnih alata.

Meta je najavila kako će nastaviti poduzimati potrebne korake - koji bi mogli uključivati ​​pravne postupke - protiv onih koji zloupotrebljavaju njihove platforme na ovaj način. Također su počeli dijeliti informacije o tim aplikacijama s drugim tehnološkim tvrtkama.

Emotivna cijena može biti razorna

Priznali su kako imaju problema s tvrtkama koje izbjegavaju njezina pravila za postavljanje oglasa bez njezina znanja, poput stvaranja novih naziva domena kako bi se zamijenile zabranjene. Tvrde kako su razvili novu tehnologiju osmišljenu za identifikaciju takvih oglasa, čak i ako ne uključuju golotinju.

Rast generativne umjetne inteligencije doveo je posljednjih godina do porasta aplikacija koje stvaraju neželjene golišave slike. Postale su toliko sveprisutne da je u travnju dječja komisija Engleske pozvala vladu na uvođenje zakonodavstva kojim će ih u potpunosti zabraniti.

Nezakonito je stvarati ili posjedovati seksualni sadržaj generiran umjetnom inteligencijom s djecom. Emocionalna cijena za djecu može biti razorna. Mnoga se osjećaju nemoćno, povrijeđeno i bez kontrole nad vlastitim identitetom. Osim golišavih slika, rastući problem su i deepfakeovi. Meta se bori protiv prevaranata koji lažno koriste poznate osobe u oglasima korištenjem tehnologije prepoznavanja lica.

Također zahtijeva od političkih oglašivača prijavu korištenja umjetne inteligencije zbog straha od utjecaja deepfakeova na izbore, piše BBC.