OpenAI je najavio označavanje tekstova koje generira ChatGPT skrivenim vodenim žigovima, koji bi trebali pomoći u otkrivanju njihova podrijetla. Oznake se temelje na suptilnim promjenama u izboru riječi, a propisi EU-a od početka kolovoza predviđaju strojno čitljive žigove za sadržaj generiran umjetnom inteligencijom.
Vodeni žigovi koji označavaju tekstove generirane umjetnom inteligencijom mogu pružiti neke naznake. OpenAI je sada najavio takvu mogućnost za ChatGPT.
Od početka kolovoza na snazi je novi propis u sklopu Akta EU-a o umjetnoj inteligenciji, koji zahtijeva strojno čitljive vodene žigove za sadržaj generiran umjetnom inteligencijom. Pružatelji AI usluga poput Anthropica i Googlea najavili su uvođenje takvih žigova ili ih već djelomično koriste, pišu Pauline Möhle i Leila Boucheligua za ARD.
Čovjek ili stroj
Tko se danas služi internetom, vrlo vjerojatno svakodnevno čita tekstove koje je napisala umjetna inteligencija, a da toga nije ni svjestan. Chatbotovi pišu opise proizvoda, molbe za posao, studentske radove, pa čak i političke izjave. Vodeni žigovi trebali bi ubuduće pokazivati je li neki tekst napisao čovjek ili stroj.
vezane vijesti
Pri dodavanju vodenog žiga koristi se jedna jezična osobitost: isti se sadržaj često može izraziti na više načina. Primjerice, ‘Danas idem u kino’ umjesto ‘Danas želim ići u kino’. Unutar takvih jezičnih mogućnosti umjetnom se inteligencijom tijekom generiranja teksta može suptilno upravljati.
Model uobičajeno izračunava vjerojatnost svake moguće sljedeće riječi, a zatim nasumično odabire jednu od njih. Kod vodenog žiga taj se odabir blago usmjerava i određene alternativne riječi koje ne mijenjaju značenje dobivaju malu prednost, a druge mali nedostatak. Tako u tekstu nastaje statistički obrazac koji čitatelji ne mogu vidjeti.
Tajni ključ
Ta se mala promjena izračunava za svaku riječ, pa je izmjena neprimjetna u cijelom tekstu. Tekstove koje je tako prilagodila umjetna inteligencija ne mogu otkriti ni ljudi ni strojevi, čak ni opsežnom analizom. Može li se utvrditi sadrži li tekst vodeni žig, ovisi o poznavanju tajnog ‘ključa’ koji točno opisuje kako je usmjeravan odabir riječi.
Waldemar Berchtold, voditelj skupine za multimedijsku sigurnost pri Fraunhoferovu institutu za sigurnosnu informacijsku tehnologiju u Darmstadtu, objasnio je zašto ključ mora ostati tajan. ‘Ako ga svi mogu razumjeti, mogu ukloniti vodeni žig, odnosno poništiti ga, a mogu i sami stvoriti vodeni žig.’
Berchtold upozorava i na tehnička ograničenja. Kao prvo, tekst mora biti određene duljine da bi tehnologija vodenog žiga funkcionirala. Učinkovito skrivanje i otkrivanje žigova moguće je tek u tekstovima od otprilike 200 do 300 riječi ili duljima, kaže istraživač. Kao drugo, problemi nastaju kada se tekst mijenja. ‘Kada promijenim izlaz i ponovno unesem vlastiti stil, zapravo zamagljujem trag generatora umjetne inteligencije – vodeni žig.’
Promjena teksta mijenja se i žig
Prednost vodenih žigova jest u tome što je oznaka skrivena u samom tekstu. No promjenom teksta mijenja se i vodeni žig. Zato metoda njegova otkrivanja može samo procijeniti vjerojatnost da tekst sadrži vodeni žig, ali ne može pružiti potpunu sigurnost.
Benno Stein, profesor računarstva na Bauhausovu sveučilištu u Weimaru, ističe da pružatelji umjetne inteligencije ne koriste vodene žigove samo zato što moraju poštovati propise EU-a. U njihovu je interesu i prepoznavanje tekstova nastalih njihovim modelima. ‘Ako razvijate jezični model, morate ga stalno opskrbljivati kvalitetnim tekstovima. Razvijateljima jezičnih modela u interesu je prepoznavati vlastite tekstove. Ta se korist često zanemaruje’, objašnjava istraživač.
Potrošačima i institucijama uskoro bi moglo biti lakše prepoznati tekstove nastale umjetnom inteligencijom. Pružatelji AI usluga ubuduće će nuditi i alate za provjeru podrijetla tekstova. Ti bi alati mogli prikazivati procjenu vjerojatnosti, primjerice: ‘Ovaj tekst s 80-postotnom je vjerojatnošću napisao naš model umjetne inteligencije.’
