Nakon lansiranja Metinog najnovijeg AI agenta Muse, neke američke financijske institucije počele su blokirati vanjske AI alate koji pokušavaju pristupiti računima klijenata i obavljati financijske transakcije. Banke upozoravaju na sigurnosne rizike i nejasnu odgovornost u slučaju pogreške, dok zasad nema naznaka da velik broj korisnika pokušava prepustiti upravljanje svojim novcem umjetnoj inteligenciji.

Rick Wurster, izvršni direktor brokerske kuće Charles Schwab, izjavio je za Bloomberg TV da tvrtka aktivno sprječava Muse da obavlja transakcije u ime klijenata.

'Ne želimo da netko jednostavno preda svoju lozinku Museu i dopusti mu da poduzima radnje u njegovo ime. Ne možemo kontrolirati takav sustav, a ne može ga u potpunosti kontrolirati ni klijent. Ako nešto pođe po zlu, postavlja se pitanje tko je odgovoran', rekao je Wurster.

Prema njegovim riječima, Schwab svaki tjedan bilježi desetke pokušaja pristupa putem vanjskih AI agenata koje sustav blokira. Broj takvih slučajeva još nije dosegnuo nekoliko stotina tjedno, što Wurster tumači kao znak da su korisnici zainteresirani za umjetnu inteligenciju, ali još nisu spremni prepustiti joj upravljanje financijskim računima.

Zabrinutost je povezana i s privatnošću. AI agenti poput Musea mogu prikupljati velike količine podataka o korisnicima i njihovim digitalnim interakcijama. Mediji su već izvještavali o problemima s privatnošću, uključujući slučaj u kojem je Metin agent navodno otkrio kućnu adresu nepoznatoj osobi.

JPMorgan također zabranjuje vanjske AI agente

JPMorgan Chase zauzeo je sličan stav. Izvršni direktor Jamie Dimon izjavio je tijekom razgovora s investitorima da banka vanjskim AI agentima ne namjerava dopustiti proizvoljnim pristup svojim sustavima jer bi to predstavljalo prevelik rizik za klijente i banku.

Prema pojašnjenju glasnogovornika banke za CNBC, trenutačna zabrana odnosi se na vanjske agente koji bi djelovali u ime maloprodajnih klijenata. Dimon je upozorio i na mogućnost pojave velikog broja nekontroliranih agenata, što bi dodatno otežalo nadzor nad njihovim postupcima.

Schwab razvija vlastitog AI pomoćnika

Unatoč ograničenjima vanjskih alata, Schwab ne odbacuje primjenu umjetne inteligencije u financijskim uslugama. Tvrtka je prošlog mjeseca predstavila vlastitog AI pomoćnika pod nazivom Charley, koji će se u početku baviti administrativnim i informativnim zadacima, a ne trgovanjem.

Wurster smatra da bi AI mogao pomoći klijentima u istraživanju dionica i pripremi naloga za trgovanje. Međutim, prepuštanje autonomnog donošenja investicijskih odluka sustavu bez ljudskog odobrenja, prema njegovim riječima, zasad je prevelik korak.

Schwab priprema i mogućnost povezivanja vanjskih velikih jezičnih modela s korisničkim računima putem poslužitelja koji koriste protokol Model Context Protocol (MCP). Takva bi veza omogućila kontroliran pristup podacima, uz provjeru identiteta i ograničavanje dopuštenih radnji.

'Nećemo im dopustiti premještanje novca, ali moći će pristupati podacima o stanju računa i provoditi istraživanja putem svojih jezičnih modela', rekao je Wurster.

Prema njegovim riječima, dio klijenata već koristi velike jezične modele i programska sučelja (API-je) za trgovanje. Takve interakcije moraju prolaziti kroz Schwabove vlastite sustave, što tvrtki omogućuje provjeru i kontrolu zahtjeva.

Pristup banaka zasad je jasan: umjetna inteligencija može pomoći u analizi informacija i pojednostavniti administrativne poslove, ali samostalno raspolaganje novcem klijenata ostaje izvan granica koje su financijske institucije spremne prihvatiti, zaključuje Gizmodo.