Usko grlo umjetne inteligencije nije računalna snaga, već naša ovisnost o računalnom oblaku. Lokalnim pokretanjem velikih jezičnih modela Pocket Lab bi trebao smanjiti tu ovisnost
Tiiny AI je predstavio uređaj što je Guinnessova knjiga rekorda potvrdila kao najmanje osobno superračunalo s umjetnom inteligencijom na svijetu.
Zove se Tiiny AI Pocket Lab. Unatoč tome što je veličine prijenosne baterije, obećava razine performansi koje inače zahtijevaju vrlo skup hardver.
vezane vijesti
U Tiiny AI-ju vjeruju kako usko grlo umjetne inteligencije nije računalna snaga, već naša ovisnost o računalnom oblaku. Lokalnim pokretanjem velikih jezičnih modela Pocket Lab bi trebao smanjiti tu ovisnost i poboljšati privatnost.
Uređaj dimenzija 14,2 puta 8 puta 2,53 centimetra teži 300 grama. Navodno može implementirati velike jezične modele s do 120 milijardi parametara. Podržava popularne modele otvorenog koda kao što su GPT-OSS, Llama, Qwen, DeepSeek, Mistral i Phi.
Ispod haube su ARM-ov v9.2 12-jezgreni procesor i neuronski procesor koji može isporučiti 190 TOPS-a. Također uključuje 80 gigabajta LPDDR5X memorije.
Prisutne su i dvije ključne tehnologije.
TurboSparse je metoda rijetke aktivacije na razini neurona koja poboljšava učinkovitost zaključivanja bez smanjenja inteligencije modela.
PowerInfer je heterogeni mehanizam za zaključivanje koji dijeli radna opterećenja između CPU-a i NPU-a, pružajući performanse poslužiteljske razine uz niske zahtjeve za energijom.
Tiiny AI planira predstaviti uređaj na sajmu CES 2026. u Sjedinjenim Državama. Cijena i druge pojedinosti zasad još nisu poznati.
Postoje i druga mala superračunala, poput Nvidijinog Project Digitsa (oko 3.000 američkih dolara) i DGX Sparka (4.000 USD), piše Digital Trends.
