Male promene u načinu na koji se veliki jezički modeli razvijaju i koriste mogu drastično smanjiti potrošnju energije, i do 90%, bez kompromisa po pitanju performansi, pokazuje istraživanje koje su objavili UNESCO i Univerzitet u Londonu (UCL).
Godišnji energetski otisak generativne veštačke inteligencije već je ekvivalentan potrošnji energije jedne zemlje sa niskim prihodima, a raste eksponencijalno, upozorava Tawfik Jelassi, pomoćnik generalnog direktora za komunikacije i informacije, UNESCO.
– Da bismo učinili veštačku inteligenciju održivijom, potreban nam je zaokret u načinu na koji je koristimo i moramo edukovati potrošače o tome šta mogu da urade kako bi smanjili svoj uticaj na životnu sredinu.
Koliko energije troši generativni AI
Izveštaj „Pametnije, manje, snažnije: energetski efikasna veštačka inteligencija i budućnost digitalne transformacije“ poziva vlade i industriju da ulažu u istraživanje i razvoj održive veštačke inteligencije, kao i u podizanje AI pismenosti, kako bi korisnici bolje razumeli ekološki uticaj svoje upotrebe AI i donosili informisanije odluke.
Generativne AI alatke danas koristi preko milijardu ljudi svakodnevno, navodi se u saopštenju UNESCO. Svaka interakcija troši energiju – oko 0.34 vat-časova po upitu. To je 310 gigavat-časova godišnje, što je ekvivalentno godišnjoj potrošnji električne energije više od 3 miliona ljudi u zemlji sa niskim prihodima u Africi, navodi se.
Za potrebe ovog izveštaja, tim naučnika sa UCL-a sproveo je niz originalnih eksperimenata na različitim otvoreno dostupnim velikim jezičkim modelima. Identifikovali su tri inovacije koje omogućavaju značajne uštede energije, bez kompromisa po tačnost rezultata:
- Manji modeli su jednako pametni i precizni kao veliki: Mali modeli prilagođeni specifičnim zadacima mogu smanjiti potrošnju energije i do 90%. Trenutno korisnici za sve potrebe koriste velike, višenamenske modele. Istraživanje pokazuje da upotreba manjih modela prilagođenih konkretnim zadacima, poput prevođenja ili sažimanja, može značajno smanjiti potrošnju energije bez gubitka performansi. To je pametniji, isplativiji i resursno efikasniji pristup: biranje pravog modela za pravi zadatak, umesto korišćenja jednog velikog, višenamenskog sistema za sve, navodi se.
- Kraći i sažetiji upiti i odgovori mogu smanjiti potrošnju energije za više od 50%.
- Kompresija modela može doneti do 44% uštede energije. Smanjivanje veličine modela pomaže im da koriste manje energije dok zadržavaju tačnost.
Manji modeli su pristupačniji
Većina AI infrastrukture trenutno je koncentrisana u zemljama sa visokim prihodima, ostavljajući druge iza i produbljujući globalne nejednakosti, upozorava UNESCO. Prema ITU-u, samo 5% AI talenata u Africi ima pristup računarskoj snazi potrebnoj za razvoj ili korišćenje generativne veštačke inteligencije.
Kako se napominje, tri tehnike istražene u izveštaju posebno su korisne u okruženjima sa ograničenim resursima, gde su energija i voda oskudni, a mali modeli su daleko pristupačniji u okruženjima sa slabijom povezanošću i ograničenom infrastrukturom.
