Trebala je to biti još jedan dodatak u paleti Googleovih AI proizvoda. Mogućnost da korisnici sami pomoću umjetne inteligencije dorađuju snimke napravljene kroz program Google Earth. Značajka je omogućila korisnicima korištenje tekstualnih uputa za generiranje lažnih scenarija na vrhu osnovnog sloja stvarnih satelitskih, zračnih ili 3D snimaka - koje su se zatim mogle preuzeti i dijeliti na drugim platformama. No, veoma brzo se pokazalo da se 'kreativnost' različito tumači u Googleu, a različito među korisnicima.

Naime, u samo nekoliko sati nakon što su iz Googlea predstavili ovu opciju u Google Earthu, internet su preplavile AI generirane fotografije koje prikazuju lažne i nepostojeće lokalitete na Google Earth snimkama poput srušenog Eiffelovog tornja, ruskih tenkova na ulicama Kijeva i vrtače koja je progutala Veliku piramidu u Gizi.

Nakon što je BBC Verify izvijestio o stručnjacima koji su izrazili zabrinutost zbog zlouporabe i potencijala za širenje dezinformacija, pogotovo u područjima u kojima bijesne sukobi diljem svijeta, iz Googlea su se oglasili. Objavili su da 'pauziraju značajku dok rade na implementaciji jačih zaštitnih ograda'.

'Znamo da ljudi jedinstveno vjeruju Google Earthu za pouzdan pogled na svijet. Vidjeli smo geoprostorne stručnjake koji koriste ovu značajku u niz korisnih svrha, no vidjeli smo i ljude koji dijele snimke zaslona generiranih slika koje izgledaju kao da krše naša pravila. Stoga pauziramo ovu značajku u Google Earth dok radimo na implementaciji jačih zaštitnih ograda. Važno je napomenuti da se generirane slike nisu prikazivale u glavnom iskustvu Google Eartha kako bi ih drugi mogli vidjeti i bile su označene vodenim žigom kao generirane umjetnom inteligencijom', stoji u izjavi iz Googlea objavljenoj na platformi X.

Jedan od stručnjaka za umjetnu inteligenciju i dezinformacije koji je podigao alarm, Henk van Ess, istaknuo je rizike koje ta značajka može predstavljati stvarajući lažne slike.

'Google je dopustio da se izmišljene slike zalijepe na stvarne koordinate. Krivotvorina samo po sebi ne mora izgledati uvjerljivo. Ona nasljeđuje vjerodostojnost karte na kojoj je nastala', rekao je van Ess za BBC.

Iako su iz Googlea tvrdili da svaka tako stvorena fotografija ima nevidljivi vodeni žig koji je moguće provjeriti pomoću Geminija ili Lensa, testovi su pokazali da se to lako može zaobići.

Istraživač umjetne inteligencije Henry Ajder rekao je za BBC Verify da bi stvaranje lažnih slika u konfliktnim zonama moglo biti posebno 'destabilizirajuće' kada se događaji brzo odvijaju, a informacije su oskudne. Dodao je kako je zabrinjavajuće da se tako nešto dopušta na mjestu koje se smatralo pouzdanim izvorom informacija. Naime, za mnoge je Google Earth ulazna točka za javno dostupne satelitske snimke i može se koristiti za dobivanje uvida u teško dostupna područja.

'Ovo je potencijalno posebno štetno za javno povjerenje jer su se satelitske snimke povijesno smatrale posebno pouzdanim izvorom podataka', rekao je za BBC Verify Bill Greer, geoprostorni analitičar i suosnivač neprofitne satelitske službe Common Space.