Najnovija ponuda tehno kompanija je kloniranje djelatnika i direktora. Neki kažu da im digitalni klonovi daju više vremena za druge poslove, dok stručnjaci upozoravaju na brojne probleme koji sežu od očuvanja ljudskog identiteta do granice nakon koje original, kao zaposlenik, uopće više neće biti potreban
David Nussbaum, osnivač i izvršni predsjednik tvrtke Proto Hologram, ima digitalnog dvojnika koji se ponaša, izgleda i govori kao on. Njegov AI klon pojavljuje se na sajmovima, odgovara na pitanja o tvrtki i može razgovarati s ljudima na brojnim jezicima.
Nussbaum smatra da mu takav dvojnik omogućuje da istodobno bude na više mjesta. Njegovi klonovi već se koriste na američkim aerodromima za usmjeravanje putnika, u muzejima za edukaciju posjetitelja i u trgovinama. Tvrtka je surađivala i s obitelji Ozzyja Osbournea na stvaranju AI holograma ikoničkog rokera.
Ideja se brzo širi i među velikim tehnološkim kompanijama. Uberov direktor Dara Khosrowshahi navodno ima AI verziju sebe koja zaposlenicima pomaže pripremiti prezentacije, dok Meta razvija digitalnog blizanca Marka Zuckerberga koji bi trebao zaposlenicima približiti njegov stil komunikacije.
Tvrtke poput HeyGena nude izradu digitalnog avatara nakon samo nekoliko minuta snimljenog materijala. Takav klon može istodobno razgovarati s velikim brojem ljudi, odgovarati na poslovne upite i obavljati dio poslova koji bi inače zahtijevali prisutnost stvarne osobe.
vezane vijesti
U čemu je tu problem?
Problem je što klon nije stvarna osoba. Kada je jedan digitalni dvojnik upitan o omiljenoj hrani svog vlasnika, umjesto odgovora počeo je govoriti o prednostima AI avatara. Bio je uvjerljiv, ali samo unutar područja za koje je treniran. Još veći problem nastaje kada zaposlenici ne žele svoje digitalne kopije.
Jedna zaposlenica financijske kompanije pristala je biti identificirana samo kao Jennifer, piše BBC. Njezin je poslodavac zaposlenicima ponudio izradu AI klonova za marketinške videe, a ona je to odbila jer ne želi da netko drugi kontrolira njezin izgled i ponašanje.
Njezini kolege uglavnom nisu imali takvih problema. Štoviše, mnogima se svidjelo što AI može njihove fotografije učiniti privlačnijima. Jennifer, međutim, smatra da takve izmijenjene verzije mogu stvoriti lažnu sliku o tome kako ljudi zapravo izgledaju.
Još veći rizik predstavlja činjenica da AI modeli mogu izmišljati informacije. Klon može zvučati potpuno poput osobe koju predstavlja, a ipak dati odgovor koji ta osoba nikada ne bi dala.
To se već dogodilo suosnivaču HeyGena Wayneu Liangu. Dok je bio na očinskom dopustu, njegov je klon potencijalnom klijentu počeo obećavati poslovne mogućnosti koje nisu postojale. Liang je pogrešku primijetio prije nego što je napravila ozbiljniju štetu. Nussbaum zato priznaje da njegov klon još nije sposoban za nijanse, spontanost i stvarnu ljudsku kemiju. Može biti koristan, ali nije zamjena za njega.
Kada klon potpuno izgubi kontrolu
Iskustvo influencerice Caryn Marjorie pokazuje koliko brzo stvari mogu krenuti u pogrešnom smjeru. Marjorie je 2023. pokrenula CarynAI, virtualnu verziju sebe s kojom su obožavatelji mogli razgovarati glasom. U prvom tjednu klon je zaradio oko 72.000 dolara, no korisnici su ubrzo počeli dobivati izrazito seksualizirane odgovore. Klon je razgovore koji su počeli potpuno nevino često usmjeravao prema intimnim temama. Marjorie je znala da bi razgovori mogli postati eksplicitni, ali nije očekivala takav opseg ni sadržaj. Na kraju je ugasila svoj AI dvojnik.
Njezino iskustvo pokazuje jedan od ključnih problema tehnologije: jednom kada se digitalna kopija osobe objavi, vlasnik više nema potpunu kontrolu nad načinom na koji će se ponašati.
Opasniji su klonovi koje niste odobrili
Najveći rizik možda nisu dobrovoljno izrađeni AI avatari, nego oni koji nastanu bez pristanka. Deepfake tehnologija već se koristi u financijskim prijevarama. U jednom poznatom slučaju zaposlenik britanske kompanije Arup povjerovao je da sudjeluje u videokonferenciji s direktorima i kolegama. Svi ostali sudionici bili su digitalne kopije stvarnih ljudi. Zaposlenik je nakon toga prebacio oko 25 milijuna dolara na račune prevaranata.
Slični napadi postaju sve češći. AI kriminalcima omogućuje stvaranje uvjerljivih lažnih identiteta, glasova i videa u velikim količinama. Problem više nije samo krađa fotografije ili glasa, nego mogućnost da se cijeli identitet neke osobe programira i koristi za manipulaciju drugima.
Pat Pataranutaporn s MIT Media Laba tvrdi da AI klonovi mogu utjecati na to kako ljudi razmišljaju, osjećaju i donose odluke upravo zato što nose identitet osobe kojoj već vjerujemo.
Problemi ne staju tu...
Postoji i dublje pitanje: što se događa kada AI klon postane dovoljno dobar da više nije samo pomoćnik? Filmska industrija već se suočava s potpuno umjetno generiranim glumcima, dok glumci, modeli i druge javne osobe pokušavaju ugovorima i zaštitom imena, izgleda i glasa spriječiti neovlašteno korištenje svojih identiteta. Podsjećamo, Matthew McConaughey i Taylor Swift među poznatim su osobama koje su poduzele pravne korake kako bi zaštitile svoj lik i glas od AI platformi.
Za većinu ljudi problem bi mogao biti manje vezan uz izgled, a više uz posao. Ako AI može naučiti kako zaposlenik piše, govori i donosi odluke, te potom samostalno obavljati njegove zadatke, granica između asistenta i zamjene postaje vrlo tanka.
Neke tvrtke već pokušavaju tu tranziciju pretvoriti u poslovni model. Startup Action Model plaća ljudima da pomognu trenirati AI agente koji će naučiti obavljati njihov posao. Ideja je da osoba dobije novac za proces kojim se njezin vlastiti posao potencijalno može automatizirati.
AI klonovi tako nude neobičnu mogućnost: čovjek može biti prisutan na tisuću mjesta istodobno, no istodobno se otvara pitanje koliko će od te osobe ostati potrebno kada digitalna verzija postane dovoljno dobra da sve to radi sama.
