Na količinu potrošene energije utječu brojni faktori, uključujući i model koji koristite. Razlika među nekima od njih je zapanjujuća, pokazuje nova studija
Bilo da se koristi za odgovaranje na poslovne e-mailove ili usputno čavrljanje, generativna umjetna inteligencija postala je pouzdan pomoćnik u svakodnevnom životu mnogih ljudi. No, sve više istraživanja pokazuje da svako rješenje koje AI nudi ima i svoju skrivenu cijenu - utjecaj na okoliš.
Svaka riječ iz AI upita razlaže se u skupine brojeva koji se zovu 'ID tokeni' i šalje u ogromne podatkovne centre (neke veće od nogometnih igrališta) koji se često napajaju iz elektrana na ugljen ili prirodni plin. Tamo veliki računalni sustavi uz pomoć niza kalkulacija generiraju odgovore.
Cijeli taj proces može potrošiti do deset puta više energije nego obična Google pretraga, prema čestom proračunu Instituta za električnu energiju (Electric Power Research Institute).
vezane vijesti
Koliki je stvarni utjecaj jednog AI upita?
Kako bi to otkrili, istraživači iz Njemačke testirali su 14 velikih jezičnih modela (LLM) tako što su im postavljali i slobodna i višestruko odabrana pitanja. Rezultati su pomalo zabrinjavajući: složenija pitanja uzrokovala su do šest puta više emisije ugljičnog dioksida nego jednostavna pitanja, piše CNN.
Još alarmantnije je, što su 'pametniji' AI modeli, s više sposobnosti rezoniranja, proizveli do 50 puta više emisija od jednostavnijih modela prilikom odgovora na isto pitanje.
'To nam pokazuje izravni razmjer između energetske potrošnje i točnosti rada modela', rekao je Maximilian Dauner, doktorand na Tehničkom veleučilištu u Münchenu i glavni autor studije objavljene u časopisu Frontiers in Communication. Napredniji modeli obično sadrže desetke milijardi više parametara, unutarnjih 'pristranosti' modela koje se koriste za obradu ID tokena.
'Možete to zamisliti kao neuronsku mrežu u mozgu. Što više neuronskih veza imate, to možete više ‘razmišljati’ kako biste odgovorili na pitanje', objasnio je Dauner.
