IZVJEŠĆA

Znate li koliko energije troše vaši upiti Googleovoj i Mistralovoj umjetnoj inteligenciji?

22.08.2025 u 12:19

Bionic
Reading

Iako treba imati na umu kako je riječ o samoprocjeni, ne o podacima koje je potvrdilo neko nezavisno tijelo, izvješća Googlea i Mistrala pružaju okvir za procjenu utjecaja umjetne inteligencije na okoliš

Google i Mistral objavili su samoprocjene utjecaja upita postavljenih umjetnoj inteligenciji na okoliš.

U srpnju je Mistral objavio samoprocjenu utjecaja obuke i ispitivanja svog modela na okoliš u smislu količine proizvedenog ugljikovog dioksida (CO2), količine potrošene vode i količine potrošenog materijala.

Google je zauzeo malo drugačiji pristup, objavljujući količinu energije i vode koju upit Geminiju troši, kao i koliko CO2 proizvodi.

Treba imati na umu kako je riječ o samoprocjeni, ne o podacima koje je potvrdilo neko nezavisno tijelo.

Također, obuka modela troši znatno više resursa nego zaključivanje ili svakodnevni zadaci koje korisnici dodjeljuju chatbotu svaki put kada ga upitaju.

Ipak, izvješća pružaju određeni kontekst o tome koliko umjetna inteligencija opterećuje okoliš, iako isključuju učinke obuke i zaključivanja umjetne inteligencije koju razvijaju OpenAI i drugi konkurenti.

Okvirne procjene

Google je objavio kako 'medijalni' upit za Gemini troši 0,24 Wh energije i 0,26 mililitara (pet kapi) vode te generira ekvivalent od 0,03 grama CO2 - što je ekvivalent devet sekundi gledanja televizije.

Mistralovo izvješće malo se razlikovalo. Za odgovor Le Chat koji generira stranicu teksta (400 tokena), Mistral troši 50 mililitara vode, proizvodi ekvivalent od 1,14 grama CO2 i troši ekvivalent od 0,2 miligrama neobnovljivih resursa.

Prema Googleu, usporedivi modeli obično su malo blaži i promatraju samo utjecaje aktivne potrošnje grafičkih kartica i čipova specijaliziranih za umjetnu inteligenciju. Gledano kroz tu prizmu, medijanski tekstualni upit za Gemini koristi 0,10 Wh energije, troši 0,12 ml vode i emitira ekvivalent od 0,02 g CO2.

Google nije objavio nikakve procjene utjecaja treniranja modela u sklopu linije Gemini.

Mistral je to učinio. U siječnju 2025., trening modela Large 2 proizveo je ekvivalent od 20,4 kilotona CO2, potrošio 281 tisuću kubičnih metara vode (oko 11 olimpijskih bazena) i potrošio 650 kilograma resursa.

Koristeći procjenu EPA-e prema kojoj prosječni automobil godišnje proizvede 4,6 metričkih tona CO2, to također odgovara godišnjoj proizvodnji CO2 od 4435 automobila.

Olakšavajući čimbenici

Procjene utjecaja na okoliš pretpostavljaju kako se energija proizvodi putem sredstava koja zapravo proizvode ugljični dioksid, poput ugljena. 'Čista' energija, poput solarne energije, smanjuje tu vrijednost.

Slično tome, količina 'potrošene' vode obično pretpostavlja korištenje isparavajućeg hlađenja, gdje se toplina prenosi s čipa ili poslužitelja (moguće i hlađenje vodom) na isparavajući hladnjak.

Isparavajući hladnjak učinkovito prenosi toplinu, na isti način na koji se vaše tijelo hladi nakon treninga. Dok se znojite, vlaga isparava, endotermna reakcija koja izvlači toplinu iz vašeg tijela. Isparavajući hladnjak obavlja istu funkciju, odvodeći toplinu s farme servera, ali i isparavajući tu vodu natrag u atmosferu.

U Googleu tvrde kako koriste holistički pristup upravljanju energijom, kao što su učinkovitiji modeli, optimizirano zaključivanje putem modela poput Flash-Litea, prilagođeni TPU-ovi, učinkoviti podatkovni centri i učinkovito mirovanje CPU-a koji se ne koriste.

Proizvodnja čiste energije - poput planiranog nuklearnog reaktora - također može pomoći u smanjenju brojki utjecaja.

EpochAI procjenjuje kako prosječni upit za GPT-4o na ChatGPT-ju troši oko 0,3 Wh energije, na temelju procjena vrsta poslužitelja koje OpenAI koristi.

Međutim, količina resursa koje umjetna inteligencija može znatno varirati, pa čak su i energetski rezultati u najboljem slučaju rudimentarni.

Prema procjeni MIT Technology Reviewa, 15 upita dnevno, 10 slika i tri videa od pet sekundi potroše 2,9 kWh električne energije, piše PC World.