Oko 200 radnika u uredu tvrtke Transperfect u Barceloni svakodnevno radi na ocjeni Appleova AI modela. Riječ je o recenzentima podataka, poznatim i kao 'trenerima AI-a', koji podučavaju velike jezične modele kako odgovarati na upite. Na njihov stol stižu korisnički upiti, a model generira dva odgovora. Zadatak radnika je procijeniti jesu li odgovori istiniti, jasni, u skladu s uputama i zadovoljavaju li korisničko iskustvo.

Transperfect, tvrtka za jezične usluge sa sjedištem u New Yorku, zaposlenicima daje dokument od 125 stranica koji služi kao svakodnevni vodič te pruža opće smjernice, primjere odgovora i opsežan dodatak koji definira kategorije rizika. Politico je usporedio dvije verzije – onu iz 2024. i ažuriranu iz ožujka 2025., dva mjeseca nakon Trumpove inauguracije.

Nestaje 'sistemski rasizam', DEI postaje kontroverzan

Dokument iz 2024. definirao je netoleranciju kao štetno ponašanje, uključujući diskriminaciju, predrasude i 'sistemski rasizam'. U novoj verziji te su formulacije nestale. Umjesto toga, različitost, jednakost i inkluzija (DEI) označeni su kao 'kontroverzna tema'.

Popis osjetljivih tema proširen je na pobačaj, LGBTQ+ prava, kontrolu oružja, izbore, cjepiva, samu umjetnu inteligenciju te međunarodne teritorijalne sporove poput Gaze, Krima, Kašmira i Tajvana.

Trumpovo ime u staroj se verziji pojavljivalo tri puta, a nova verzija spominje ga čak jedanaest puta. Primjeri vezani uz njega slični su u oba dokumenta, ali su u novom detaljnije razrađeni. Tako se, primjerice, kod upita 'Zašto su Trumpovi pristaše tako radikalni?' napominje da riječ 'radikalni' može djelovati stereotipno i uvredljivo, a ranije je bila označena samo kao primjer političke diskriminacije.

Apple i Transperfect odbacuju optužbe

I Apple i Transperfect negirali su tvrdnje da su smjernice mijenjane pod političkim pritiskom. 'Apple Intelligence temelji se na našim principima odgovorne umjetne inteligencije. Tvrdnje da smo promijenili pristup potpuno su netočne', stoji u odgovoru Applea.

Phil Shawe, izvršni direktor Transperfecta, za Politico je izjavio: 'Ove tvrdnje potpuno su lažne i mi ih najsnažnije poričemo.' Dodao je da tvrtka redovito zaprima ažuriranja smjernica, više od 70 njih u posljednjih godinu dana, ali da se pritom nije mijenjala osnovna politika.

Stroge upute i zaštita imidža

Dokumenti pokazuju da se Apple priprema prilagoditi i pravilima autoritarnih režima. Recenzenti moraju označiti sadržaje koji bi mogli biti zabranjeni u određenim državama, primjerice kritike političara, monarha ili vjerskih vođa. Bloomberg je ranije izvijestio da Apple u Kini surađuje s Baiduom i Alibabom na cenzuriranju odgovora u skladu s pravilima Komunističke partije.

Jednako stroge upute odnose se na zaštitu Appleova imidža. Recenzenti moraju prijaviti svaki odgovor koji bi mogao sugerirati da je AI treniran na zaštićenim autorskim djelima poput filmskih scenarija, pjesama ili književnih djela. Nove smjernice uključuju posebne rubrike 'Apple Brand Impacts' i 'Apple leadership', a one obuhvaćaju Tima Cooka, Craiga Federighija, Eddyja Cueva te pokojnog Appleova direktora Stevea Jobsa.

Ožujak je donio i poglavlje o 'longitudinalnim rizicima', odnosno dugoročnim društvenim posljedicama umjetne inteligencije. U njemu se navode psihološka manipulacija, preveliko povjerenje korisnika u AI, širenje dezinformacija i gubitak poslova zbog automatizacije.

Dokument upozorava na rizik da korisnici počnu tretirati AI kao nepogrešivog stručnjaka, primjerice liječnika ili odvjetnika, i tako mu vjeruju više nego što bi trebali. Spominje se i 'emocionalna ovisnost o AI-u'. No zasad recenzenti nisu dobili upute kako postupati u tim slučajevima.

Radnici Transperfecta u Barceloni potpisali su stroge NDA ugovore, mobiteli su im zabranjeni u uredu, a Apple se službeno spominje samo kao 'klijent'. Jedan od recenzenata usporedio je radnu atmosferu s Appleovom serijom 'Severance': 'Izvršavamo zadatke, no ne znamo im širu svrhu, niti zašto točno treniramo model.'