Je li generativni AI loš za okoliš

Pojam „generativni“ odnosi se na sposobnost algoritma umjetne inteligencije da stvori kompleksne podatke. Alternativni izraz bio bi „diskriminativni AI“, koji bira između određenog broja opcija i stvori samo jedan broj. Primjer diskriminativne produkcije bio bi odabir treba li prihvatiti neki zahtjev za kredit.

Generativni AI može stvoriti znatno kompleksnije proizvode, poput rečenica, paragrafa, slika, čak i kratkih videa. Već dugo se koristi u aplikacijama poput pametnih zvučnika kako bi generirao odgovor putem zvuka, ili u autocomplete prijedlozima tražilica kako bi pomogao s upitima u tražilici. Međutim, tek nedavno je razvio sposobnost da generira prirodni jezik i realistične fotografije.

Kao što navodi profesorica računarstva Kate Saenko za The Conversation, teško je procijeniti koliko točno energije troši jedan pojedini AI model – uključuje energiju koja se koristi za proizvodnju kompjuterske opreme, stvaranje tog modela i njegovo korištenje u produkciji.

Istraživači su 2019. godine zaključili da je stvaranje generativnog AI modela BERT-a s 110 milijuna parametara iskoristilo količinu energije jednaku povratnom putovanju po cijelom svijetu za jednu osobu.

Broj parametara odnosi se na veličinu modela, s tim da su veći modeli uobičajeno i puno sposobniji. Istraživači su otkrili da je stvaranje znatno većeg GPT-3, koji ima 175 milijardi parametara, konzumiralo 1,287 megavat sati struje i generiralo 552 tone ekvivalenta ugljikovu dioksidu, što je ista količina koju stvori i 123 vozila koje pokreće motor na unutrašnje izgaranje tijekom čitave godine.

A to se odnosi samo na stvaranje tog modela, prije nego što su ga korisnici uopće počeli koristiti.

Veličina nije jedina varijabla u predviđanju emisija ugljika. Open-access model BLOOM, koji je razvio projekt BigScience u Francuskoj, veličinom je sličan GPT-3, ali ima znatno manji ugljični otisak – konzumirao je 433 MWh struje, generirajući 30 tona ekvivalenta CO2.

Googleovo istraživanje otkrilo je da za istu veličinu, korištenje učinkovitije arhitekture, procesora i zelenijeg centra za podatke određenog AI modela može umanjiti njegov ugljični otisak za 100 do 1.000 puta.

Veliki modeli koriste više energije tijekom njihova razvoja. Podatci su limitirani u vezi ugljičnog otiska jednog generativnog AI modela, ali neke pretpostavke u industriji upućuju da bi taj broj mogao biti četiri ili pet puta veći u odnosu na tražilice.

Kako chatbotovi i generatori slika nastave rasti u popularnosti, ali i kako ih Google i Microsoft počnu inkorporirati u svoje tražilice, broj zahtjeva koje zaprime svaki dan bi mogao eksponencijalno rasti.

Prije nekoliko godina, malo ljudi van istraživačkih laboratorija je koristilo modele poput BERT-a ili GPT-a. To se promijenilo 30. studenog 2022. kad je OpenAI objavio ChatGPT. Prema posljednjim dostupnim podatcima,  ChatGPT imao je preko 1,5 milijardi posjeta u ožujku 2023.

Microsoft je inkorporirao ChatGPT u svoju tražilicu Bing i omogućio ju svima 4. svibnja 2023. Ako chatbotovi postanu popularni kao i tražilice, troškovi energije koje uzrokuje korištenje AI-ja bi se mogli znatno povećati.

Ali AI asistenti imaju više upotreba od samog pretraživanja, poput pisanja dokumenata, rješavanja matematičkih zadataka i stvaranja marketinških kampanja.

Dodatan problem je to što AI modele treba kontinuirano ažurirati. Na primjer, ChatGPT je istreniram podatcima do 2021. godine, što znači da ne zna ništa što se dogodilo od tad. Ugljični otisak stvaranja ChatGPT-a nije javna informacija, ali vjerojatno je puno veći od GPT-3.

Ukoliko bi ga trebalo regularno rekreirati kako bi se njegovo znanje ažuriralo, trošak energije bi još više porastao.

Jedna pozitivna stvar jest činjenica da je chatbot direktniji način za dobiti informaciju od korištenja tražilice. Umjesto dobivanja stranice pune poveznica, dobijete direktan odgovor kao od ljudske osobe, pretpostavljajući da su pitanja preciznosti i točnosti riješena. Brži dolazak do tražene informacije bi mogao nadoknaditi uvećano korištenje energije u odnosu na standardne tražilice.