Meta Platforms testira 'ljudskog asistenta' ('human concierge') za Muse, svog osobnog pomoćnika temeljenog na umjetnoj inteligenciji. To, između toga, podrazumijeva vanjske suradnike (ljude) koji diskretno preuzimaju dio telefonskih poziva koje inicira digitalni agent.

Tvrtka je zaposlenike o testiranju izvijestila prošlog tjedna, nedugo nakon što je javno predstavila značajku telefonskog pozivanja za Muse.

Agent Muse, koji je u dva tjedna od lansiranja zasjeo na vrh ljestvica preuzimanja aplikacija u SAD-u, osmišljen je za samostalno obavljanje zadataka poput slanja e-pošte, kupovine i rezervacije putovanja u ime korisnika.

Putem značajke telefonskog pozivanja, korisnik može naložiti agentu Muse obavljanje poziva prema američkim tvrtkama i razgovora s osobama s druge strane linije kako bi obavio poslove poput rezervacije termina kod frizera, provjere dostupnosti proizvoda u trgovini ili prikupljanja ponuda različitih izvođača radova.

Problemi s privatnošću i rasističkim opaskama

Pojedini su zaposlenici izrazili zabrinutost za privatnost zbog toga što ljudi sudjeluju u tim pozivima, upozoravajući kako bi takav pristup mogao dovesti do nenamjernog dijeljenja osjetljivih informacija sa suradnicima u pozivnim centrima. Jedan od njih, koji je zatražio od Musea poziv prema pružatelju internetskih i kabelskih usluga radi pregovora o računu, upozorio je kako je vanjski suradnik tijekom poziva iznio rasističku primjedbu.

Kao odgovor na to, u Metinom odjelu Superintelligence Labs priznali su kako je bila loša ideja bio započeti testiranje poziva koje obavljaju vanjski suradnici bez odgovarajućeg obavještavanja korisnika. Tvrtka je zasad povukla tu značajku, uz ispriku za rasističku opasku. Djelatnik koji ju je izrekao više neće raditi ni na jednom Metinom projektu, obećali su.

Nastavit će raditi na usavršavanju AI poziva, napominjući kako su pojedina testiranja pokazala kako bi uključivanje ljudi u obavljanje poziva moglo podići stopu uspješnosti na raspon od 95 do 98 posto, za razliku od nižeg postotka uspješnosti kod poziva koje obavlja isključivo AI.

Testiranje značajke Muse pruža uvid u to kako se tehnološke tvrtke ponekad oslanjaju na ljudski rad u pozadini kako bi ispunile obećanja o autonomnoj umjetnoj inteligenciji, suočavajući se pritom s nespremnošću primatelja automatiziranih poziva na interakciju.

To podsjeća na raniji eksperiment koji je Meta provela prije deset godina, kada je tvrtka – tada poznata kao Facebook – testirala digitalnog asistenta M unutar usluge Messenger.

Medijska izvješća kasnije su procijenila kako je oko 70 posto zadataka tog agenta zapravo obavljalo ljudsko osoblje.

Dvojbene sigurnosne mjere

Glasnogovornik Mete ustvrdio je kako su reakcije zaposlenika na novo testiranje bile iznimno pozitivne. Svrha testiranja bila prikupljanje povratnih informacija kako bi mogli implementirati zaštitne mjere za sigurnost i privatnost te poboljšati značajke prije njihova javnog predstavljanja.

Prema podacima tvrtke za analizu tržišta Sensor Tower, Metin agent Muse zabilježio je od predstavljanja više od 2,5 milijuna preuzimanja.

Cijena dionice tvrtke porasla je za više od 20 posto od trenutka lansiranja.

Prilikom predstavljanja Meta je snažno naglašavala sigurnosne mjere zaštite, ističući potencijalnim korisnicima kako će svaki agent imati vlastiti sigurni 'virtualni stroj' - odnosno namjensko računalo u oblaku dizajnirano za izolaciju korisničkih sesija - te kako će osjetljivi podaci, poput lozinki, biti pohranjivani ​​u zasebnom sigurnom prostoru.

Zaposlenici unutar Mete koji su kritizirali plan o 'ljudskom konsijeržu' u svojim su povratnim informacijama ukazivali upravo na te sigurnosne mjere, upozoravajući kako takav pristup nosi rizik od potkopavanja ključnog prodajnog aduta tog agenta.

Interni dokumenti pokazuju kako je Meta u kolovozu započela s testiranjem mogućnosti telefonskog pozivanja uz pomoć zaposlenika te ju je postupno počela uvoditi za korisnike aplikacije Muse u danima nakon njezina predstavljanja.

Ipak, pojedini su korisnici prijavili probleme s tim pozivima. Među njima je i zaposlenik koji je rekao kako je pokušao nazvati svoje osiguravajuće društvo, no oni stalno prekidaju vezu s Museom čim čuju kako je riječ o umjetnoj inteligenciji.

Kako bi riješila te probleme, Meta je prošlog tjedna za polovicu svojih zaposlenika omogućila značajku ljudskog posredovanja.

Zaposlenici koji nisu željeli sudjelovati mogli su se pridružiti skupini za isključivanje iz programa, piše Reuters.