Tvrtke poput Microsofta, Googlea i Anthropica uložile su stotine milijardi američkih dolara u razvoj velikih jezičnih modela (LLM), tehnologije koja stoji iza tih usluga.

Naravno, te tvrtke žele povratiti svoju investiciju, pa nude plaćene verzije svojih modela, s dodatnim značajka za zadaće poput računalnim kodiranja ili naplate.

U međuvremenu, tvrtke trećih strana grade i prodaju usluge temeljene na AI agentima, obično temeljenim na LLM-ovima, koji su obučeni za obavljanje određenih zadataka.

Postavljanje cijene za te usluge iznenađujuće je teško. Jedan od razloga je brzo promjenjiva ekonomija oko tokena, gradivnih blokova LLM-ova i agentske umjetne inteligencije.

Kada korisnik zatraži od LLM-a, poput ChatGPT-ja ili Anthropicovog Claudea, odgovor na pitanje, generira softverski kod ili automatizira proces, taj se upit rastavlja na matematičke dijelove koje se naziva tokeni, a koje model može obraditi.

Odgovor LLM-a također dolazi u obliku tokena, koji bivaju pretvoreni natrag u tekst, softverski kod ili skup naredbi za automatizaciju procesa.

Teško predvidljivi odgovori

Problem je što ovaj proces nije u potpunosti predvidljiv.

Suptilne varijacije u upitu mogu dati različite odgovore. Isti upit neće uvijek dati isti odgovor. Različiti modeli dat će različite odgovore.

U međuvremenu, tvrtke koriste više AI agenata zajedno za donošenje odluka i poduzimanje radnji, što dodatno povećava i korištenje tokena i nepredvidljivost.

Iako je cijena pojedinačnih tokena naglo pala posljednjih godina, prema analizi Goldman Sachsa, broj tokena koje troše tvrtke i potrošači također je naglo porastao.

U toj banci predviđaju kako će potrošnja tokena biti povećana 24 puta između 2026. i 2030. godine na 120 kvadrilijuna tokena mjesečno jer tvrtke prelaze s korištenja AI agenata.

No, tvrtke i pojedinci koji koriste AI sustave često imaju slabu predodžbu o tome koliko tokena troše, dok im ih ne ponestane ili dok ne dobiju mjesečni račun.

Tvrtke pronalaze načine kako to zaobići.

Manje mogu proći ispod radara i koristiti osobne račune s fiksnom naknadom. Ali, to vjerojatno neće dugo potrajati jer će se velike AI platforme prije ili kasnije početi suočavati s pritiskom dioničara ne bi li počele poslovati s profitom.

Tvrtke bi trebale biti preciznije s uputama zaposlenicima i modelima te pažljivije razmisliti o tome koje AI modele koristiti.

Troškovi umjetne inteligencije mogli bi početi rasti, primjerice zbog proširenja opsega zadaća za koje ju se koristi. Posebno bi teško bilo moglo biti praćenje više AI agenata odjednom.

Tvrtke i dalje moraju prenijeti te troškove na svoje kupce. Moguće opcije bi mogle uključivati ​​jednostavno podizanje cijena u cijelosti, plaćanje po rezultatima ili naplatu za 'pakete'.

Kakvu god cjenovnu strukturu odaberu, ona bi se mogla ponovno promijeniti ako i kada veliki pružatelji jezičnih modela promijene vlastite strategije određivanja cijena, piše BBC.