Aplikacija za sigurnu razmjenu poruka Signal uvodi nove zaštitne mjere kojima želi spriječiti AI asistente da pristupaju privatnim razgovorima njihovih korisnika na pametnim telefonima
Kako je u blogu navela predsjednica Signala, meredith Whittaker, od petka će korisnicima prema zadanim postavkama biti blokirano snimanje zaslona, a aplikacija će ih upozoriti ako digitalni asistenti pokušaju pristupiti sadržaju njihovih razgovora.
'Privatnost je naša misija; to je razlog zašto postojimo i činimo sve što možemo da je zaštitimo', ističe Whittaker.
Podsjetila je da to nije prvi put da blokiraju pristup umjetnoj inteligenciji. To su već napravili prošle godine s umjetnom inteligencijom u Windowsima.
No, Whittaker ističe kakosve snažnija integracija umjetne inteligencije u operativne sustave i uređaje ugrožava privatnost korisnika te otežava aplikacijama da zajamče sigurnost komunikacije.
Nova zaštita ipak nije potpuno rješenje, priznaju iz Signala, pa od Applea, Googlea i Microsofta traži konkretnije mogućnosti kojima bi programeri mogli spriječiti AI alate da pristupaju osjetljivim podacima. Od tehnoloških kompanija traže i više informacija o načinu rada njihovih AI asistenata kako bi programeri mogli utvrditi kojim podacima oni pristupaju.
Posebno zabrinjavaju asistenti duboko integrirani u operativne sustave, poput Appleova Sirija i Googleova Geminija. Takvi alati mogu analizirati sadržaj na zaslonu i poduzimati radnje u ime korisnika, no pritom mogu zaobići sigurnosne mehanizme koje pojedine aplikacije imaju ugrađene.
'Integracija AI asistenata mijenja digitalno okruženje i čini ga sve manje pogodnim za zaštitu privatnosti. To je egzistencijalna prijetnja Signalu i našoj mogućnosti da odgovorno ispunjavamo svoju misiju', poručila je Whittaker.
Nova postavka blokirat će pristup snimkama zaslona, a korisnici će dobivati upozorenja ako Signal prepozna pokušaj snimanja razgovora ili pristupa zaslonu putem AI asistenta. Ovisno o uređaju, korisnici će moći isključiti tu zaštitu. Signal je, podsjeća Reuters, sličnu mjeru već uveo za Microsoftov AI alat Recall na Windowsima, dok na Appleovu operativnom sustavu macOS zasad ne može pouzdano ponuditi jednaku zaštitu.
AI asistenti mogu zaobići zaštitu aplikacija
Povod za dodatnu zabrinutost bilo je i izvješće Reutersa prema kojem je Metin AI asistent Muse uspio pristupiti porukama u Signalu na Appleovu računalu i uređaju s Androidom, zaobilazeći pritom službeni alat za povezivanje aplikacija.
Muse je iskoristio široke dozvole za pristup operativnom sustavu koje su mu bile dodijeljene tijekom početnog postavljanja. Na Appleovu računalu, primjerice, kombinirao je alate za pristupačnost i snimanje zaslona kako bi otvorio Signal, snimio razgovore, izdvojio tekst iz slika i prikazao poruke unutar vlastite aplikacije.
Apple je ovoga tjedna ažuriranjem sustava zatvorio opisani način pristupa, ali je istodobno uveo nove dozvole namijenjene AI asistentima, koje im omogućuju slične funkcije uz dodatna upozorenja korisnicima.
Meta je Reutersu odgovorila da AI asistenti moraju moći vidjeti sadržaj i komunicirati s računalima kako bi obavljali zadatke u ime korisnika te da Muse drugim aplikacijama pristupa samo uz dozvole koje korisnici izričito odobre.
Signal, međutim, smatra da bi programeri trebali imati jednostavnu mogućnost potpunog isključivanja svojih aplikacija iz takve obrade podataka, uključujući čitanje sadržaja zaslona, pristup obavijestima i datotekama.
Signal je poznat po snažnoj zaštiti privatnosti, ponajprije zahvaljujući end-to-end enkripciji, koja onemogućuje samoj platformi da čita sadržaj razgovora. No, ako AI asistent izdvoji poruke iz zaštićenog okruženja aplikacije i prenese ih na vlastite poslužitelje, takva zaštita više nije dovoljna.
Upravo na taj rizik Signal sada upozorava: AI alati koji mogu vidjeti i obrađivati sve što se prikazuje na zaslonu mogli bi narušiti privatnost čak i u aplikacijama koje su dosad nudile vrlo visoku razinu sigurnosti.