Metin AI asistent Muse mogao bi ugrožavati privatnost korisnika jer, prema internim prijavama zaposlenika, prikazuje poruke koje im nisu namijenjene, iznosi podatke o nepoznatim bankovnim računima i pristupa sadržaju drugih aplikacija. Reuters je pregledao više od dvadeset internih prijava problema, a u suradnji sa stručnjacima uspio je potvrditi da Muse može doći do poruka iz aplikacije Signal na načine koje korisnici možda ne očekuju. Meta tvrdi da je riječ o izoliranim slučajevima i da su mnoge sporne poruke zapravo izmišljeni odgovori umjetne inteligencije
Metin AI asistent Muse, predstavljen u rujnu, već je preuzet više od deset milijuna puta, no njegov brzi rast prate ozbiljna pitanja o zaštiti privatnosti. Zaposlenici kompanije tijekom testiranja prijavili su niz neobičnih slučajeva u kojima je asistent samoinicijativno slao poruke, prikazivao podatke koje korisnici nisu tražili i naizgled miješao razgovore različitih ljudi.
Među prijavljenim problemima bile su poruke o čuvanju djece, savjeti o karijeri, obavijesti o kupnjama koje korisnici nisu obavili i podaci o bankovnim računima koji im nisu pripadali, piše Reuters.
Jedan zaposlenik opisao je kako je tijekom uobičajenog razgovora s Museom o vremenskim uvjetima i morskim mijenama iznenada dobio poruku sa stanjem na dva bankovna računa. Asistent mu je bez ikakvog povoda naveo iznose od 2722,58 i 5899,57 dolara na računima banaka Capital One i Charles Schwab.
Zaposlenik te informacije nije tražio, a nije bilo jasno ni odakle su potekle. Reuters nije uspio utvrditi jesu li prikazani iznosi stvarni podaci drugih korisnika ili ih je umjetna inteligencija jednostavno izmislila.
AI asistent pristupio porukama sa Signala
Tu je i slučaj zaposlenice koja je Muse koristila na privatnom telefonu. Asistent ju je neočekivano podsjetio da odgovori na poruku koju joj je sestra poslala putem Signala, aplikacije poznate po šifriranoj komunikaciji. 'To se čini kao ozbiljno kršenje privatnosti. Definitivno mu nisam dala pristup drugim aplikacijama, niti se sjećam da me itko tražio takvo dopuštenje', napisala je zaposlenica u internoj prijavi.
Njezin kolega otkrio je da je Muse na njegovu Android telefonu imao dopuštenje za pristup obavijestima, što mu je omogućavalo uvid u sadržaj poruka drugih aplikacija. Reuters je u suradnji sa stručnjacima Signala i neprofitne organizacije AI Now Institute pokušao ponoviti takvo ponašanje.
Testiranje je pokazalo da Muse na Androidu može čitati sadržaj poruka iz obavijesti, a na Appleovim računalima koristiti dopuštenja za pristupačnost i snimanje zaslona kako bi došao do poruka. Na iPhoneu takav pristup tijekom testiranja nije uspio.
To ne znači da je probijena Signalova enkripcija. Problem je u tome što AI asistent, zahvaljujući dopuštenjima na uređaju, može pristupiti sadržaju poruka nakon što ih uređaj primi i prikaže.
Meta tvrdi da su problemi izolirani
Meta je na Reutersove nalaze odgovorila tvrdnjom da je riječ o izoliranim incidentima te da sigurnost korisnika ostaje jedan od njezinih prioriteta. Glasnogovornik kompanije Daniel Roberts izjavio je da Muse drugim aplikacijama može pristupiti samo na temelju dopuštenja koja mu korisnici daju.
Dodao je da su mnoge poruke koje su zaposlenici protumačili kao moguće miješanje korisničkih računa zapravo bile takozvane halucinacije umjetne inteligencije, odnosno netočne ili izmišljene informacije koje sustav prikazuje kao stvarne. Kompanija tvrdi da je dio prijavljenih problema već riješen.
Meta je za TechCrunch dodatno naglasila da zaposlenici testiraju različite verzije Musea, uključujući funkcije koje nisu dostupne široj javnosti. Prema kompaniji, svrha takvog testiranja upravo je otkrivanje nedostataka prije nego što postanu veći problem za korisnike.
Reutersovi testovi pokazali su da mogućnost pristupa privatnim porukama nije bila ograničena samo na interne prijave zaposlenika.
Nova pitanja o privatnosti AI asistenata
Muse pripada novoj generaciji AI asistenata koji ne služe samo za odgovaranje na pitanja, nego mogu obavljati zadatke u ime korisnika, poput upravljanja porukama, rezerviranja termina i kupnje proizvoda. Za takve funkcije potreban im je širi pristup uređajima i aplikacijama, što otvara i dodatne sigurnosne rizike.
Metin slučaj pokazuje koliko je važno razlikovati dopuštenje za pristup određenoj funkciji uređaja od pristanka da umjetna inteligencija koristi sve informacije do kojih preko te funkcije može doći. Predsjednica Signala Meredith Whittaker kritizirala je Metin pristup, upozorivši da AI asistenti ne bi smjeli dobivati širok pristup privatnim podacima bez jasnih ograničenja.
Apple i Google također su poručili da razmatraju dodatne mogućnosti kontrole pristupa podacima. Apple je već uveo promjene kojima ograničava način na koji aplikacije mogu koristiti određene funkcije pristupačnosti na računalima Mac. umjetne inteligencije.