Ako umjetna inteligencija stvara sliku, može li itko zapravo ukazati na specifične slike koje su na nju utjecale?

Nova studija Laboratorija za računalne znanosti i umjetnu inteligenciju MIT-a sugerira kako bi za dovoljno velike modele odgovor često mogao biti negativan.

U istraživanju čiji su rezultati objavljeni u časopisu Nature Communications autori opisuju taj fenomen kao 'propadanje atribucije'.

Ukratko: utjecaj bilo kojeg pojedinačnog dijela podataka o obuci postaje sve teže otkriti kako veličina skupa podataka raste.

Istraživači su htjeli testirati nešto preciznije od jednostavnog pitanja je li AI model treniran na određenoj slici.

Zanimalo ih je što se događa ako se ukloni određeni dio podataka o obuci. Otkrili su kako, usporedo sa skaliranjem modela i skupova podataka, uklanjanje pojedinačne slike može napraviti malu ili nikakvu mjerljivu razliku u generiranom rezultatu.

Isto, čini se, vrijedi kada uklanjate cijeli umjetnikov rad ili slike određene osobe.

Model možda neće reproducirati djelo nijednog određenog umjetnika jer se oslanja na milijune slika kako bi naučio elemente kao što su kompozicija, osvjetljenje, teksture i umjetnički stilovi.

Drugim riječima, model je možda naučio široke vizualne obrasce iz ogromnog skupa podataka, a da nijedna slika nije jasno odgovorna za određeni rezultat.

Istraživači tvrde kako, ako uklanjanje određenog dijela podataka ne promijeni izlaz, postaje teško taj izlaz smisleno pripisati uklonjenom primjeru. To postaje teže što su skupovi podataka veći.

To ne znači kako su podaci o obuci irelevantni, niti rješava širu raspravu o tome mogu li AI tvrtke koristiti materijal zaštićen autorskim pravima bez dopuštenja.

Umjesto toga, fokus je uži: može li se pokazati kako je određena slika treninga izravno utjecala na određeni rezultat generiran umjetnom inteligencijom, piše Digital Trends.