Algoritam štedi energiju umjetnoj inteligenciji

Tim američkih inženjera iz tehnološke tvrtke BitEnergy AI iz Cambridgea, Massachusetts, izvješćuje o metodi za smanjenje energetskih potreba AI aplikacija za 95%.

Kako su AI aplikacije postale mainstream, njihova je upotreba dramatično porasla, što je dovelo do značajnog povećanja energetskih potreba i troškova. LLM-ovi kao što je ChatGPT zahtijevaju puno računalne snage, što zauzvrat znači da je za njihovo pokretanje potrebno puno električne energije.

Kao samo jedan primjer, ChatGPT sada zahtijeva otprilike 564 MWh dnevno, ili dovoljno za napajanje 18.000 američkih domova. Kako znanost napreduje i takve aplikacije postaju sve popularnije, kritičari su sugerirali da bi AI aplikacije mogle koristiti oko 100 TWh godišnje u samo nekoliko godina, što je otprilike na razini operacija rudarenja Bitcoina.

U ovom novom projektu, tim BitEnergy AI-ja tvrdi da su pronašli način da dramatično smanje količinu energije potrebne za pokretanje AI aplikacija koje ne rezultiraju smanjenom izvedbom.

Nova tehnika se temelji na algoritmu koji umjesto složenog množenja s pomičnim zarezom (FPM), koristi zbrajanje cijelog broja. Aplikacije koriste FPM za rukovanje ekstremno velikim ili malim brojevima, omogućujući aplikacijama da izvrše izračune pomoću njih s iznimnom preciznošću. To je ujedno i energetski najintenzivniji dio AI obrade brojeva.

Istraživači svoju novu metodu nazivaju linearno složenim množenjem radi aproksimacije FPM-ova korištenjem zbrajanja cijelih brojeva. Tvrde da su dosadašnja testiranja pokazala da novi pristup smanjuje potražnju za električnom energijom za 95%.

Jedini nedostatak koji ima je što zahtijeva drugačiji hardver od onoga koji se trenutno koristi, ali istraživački tim napominje da je nova vrsta hardvera već dizajnirana, izgrađena i testirana.

Istraživački rad objavljen u časopisu Arxiv Sveučilišta Cornell možete pronaći na ovoj poveznici.