Koliko energije koristi vještačka inteligencija?

Koliko energije koristi vještačka inteligencija?

Odgovor: Vještačka inteligencija može koristiti vrlo malo električne energije za jednostavan tekstualni zadatak, ali mnogo više kada su upute dugačke, izlazi multimodalni ili sistemi rade u velikim razmjerima. Obuka je obično glavni početni udar energije, dok svakodnevno zaključivanje postaje značajno kako se zahtjevi akumuliraju.

Ključne zaključke:

Kontekst : Definirajte zadatak, model, hardver i razmjer prije nego što navedete bilo kakvu procjenu energije.

Obuka : Tretirajte obuku modela kao glavni početni energetski događaj prilikom planiranja budžeta.

Zaključivanje : Pažljivo pratite ponovljeno zaključivanje, jer se mali troškovi po zahtjevu brzo akumuliraju u velikim razmjerima.

Infrastruktura : U svaku realističnu procjenu uključite hlađenje, skladištenje, mreže i neaktivni kapacitet.

Efikasnost : Koristite manje modele, kraće upite, keširanje i grupiranje kako biste smanjili potrošnju energije.

Koliko energije koristi vještačka inteligencija? Infografika

Članci koje biste možda željeli pročitati nakon ovog:

🔗 Kako umjetna inteligencija utiče na okolinu
Objašnjava ugljični otisak umjetne inteligencije, potrošnju energije i kompromise održivosti.

🔗 Da li je vještačka inteligencija loša za okolinu?
Otkriva skrivene ekološke troškove AI modela i podatkovnih centara.

🔗 Je li vještačka inteligencija dobra ili loša? Prednosti i mane
Uravnotežen pogled na koristi, rizike, etiku i stvarne uticaje umjetne inteligencije.

🔗 Šta je vještačka inteligencija? Jednostavan vodič
Naučite osnove umjetne inteligencije, ključne pojmove i svakodnevne primjere za nekoliko minuta.

Zašto je ovo pitanje važnije nego što ljudi misle 🔍

Potrošnja energije umjetne inteligencije nije samo tema razgovora o okolišu. Dotiče se nekoliko vrlo stvarnih stvari:

  • Troškovi električne energije - posebno za preduzeća koja koriste mnogo zahtjeva za umjetnom inteligencijom

  • Utjecaj ugljika - ovisno o izvoru napajanja iza servera

  • Hardversko opterećenje - moćni čipovi troše ozbiljnu snagu

  • Odluke o skaliranju - jedan jeftin podsticaj može se pretvoriti u milione skupih

  • Dizajn proizvoda - efikasnost je često bolja karakteristika nego što ljudi misle ( Google Cloud , Green AI )

Mnogi ljudi pitaju „Koliko energije koristi vještačka inteligencija?“ jer žele dramatičan broj. Nešto ogromno. Nešto što će privući pažnju javnosti. Ali bolje pitanje je: O kakvoj vrsti upotrebe vještačke inteligencije govorimo? Jer to mijenja sve. ( IEA )

Jedan prijedlog za automatsko dovršavanje? Prilično mali.
Treniranje graničnog modela na ogromnim klasterima? Mnogo, mnogo veći.
Uvijek uključeni radni tok umjetne inteligencije u preduzeću koji dotiče milione korisnika? Da, to se brzo zbraja... kao što se novčići pretvaraju u plaćanje kirije. ( DOE , Google Cloud )

Koliko energije koristi vještačka inteligencija? Kratak odgovor ⚡

Evo praktične verzije.

Vještačka inteligencija može koristiti bilo gdje, od malog dijela vat-sata za lagane zadatke, do ogromnih količina električne energije za obuku i implementaciju velikih razmjera. Taj raspon zvuči komično široko jer je i širok. ( Google Cloud , Strubell i dr. )

Jednostavno rečeno:

  • Jednostavni zadaci zaključivanja - često relativno skromni na osnovu upotrebe

  • Dugi razgovori, veliki izlazi, generiranje slika, generiranje videa - primjetno veća potrošnja energije

  • Treniranje velikih modela - prvak teške kategorije u potrošnji energije

  • Korištenje umjetne inteligencije u velikim razmjerima cijeli dan - gdje „malo po zahtjevu“ postaje „veliki ukupni račun“ ( Google Cloud , DOE )

Dobro pravilo je sljedeće:

  • Trening je ogroman početni događaj koji generira energiju 🏭

  • Zaključak je tekući račun za komunalije 💡 ( Strubell i dr. , Google Research )

Dakle, kada neko pita: Koliko energije koristi vještačka inteligencija?, direktan odgovor je: „Ne jedna količina - već dovoljno da efikasnost bude bitna i dovoljno da obim promijeni cijelu priču.“ ( IEA , Zelena vještačka inteligencija )

Znam da to nije tako privlačno kao što ljudi žele. Ali istina je.

Šta čini dobru verziju procjene energije pomoću umjetne inteligencije? 🧠

Dobra procjena nije samo dramatičan broj prikazan na grafici. Praktična procjena uključuje kontekst. U suprotnom, to je kao vaganje magle vagom u kupaonici. Dovoljno blizu da zvuči impresivno, ali ne dovoljno blizu da bi se vjerovalo. ( IEA , Google Cloud )

Prikladna procjena energije koju vrši umjetna inteligencija trebala bi uključivati:

  • Vrsta zadatka - tekst, slika, audio, video, obuka, fino podešavanje

  • Veličina modela - većim modelima obično je potrebno više računarskih resursa

  • Korišteni hardver - nisu svi čipovi podjednako efikasni

  • Dužina sesije - kratki upiti i dugi višekoračni tokovi rada se veoma razlikuju

  • Iskorištenost - sistemi u stanju mirovanja i dalje troše energiju

  • Hlađenje i infrastruktura - server nije cijeli račun

  • Lokacija i energetski miks - električna energija nije svugdje jednako čista ( Google Cloud , IEA )

Zato se dvije osobe mogu svađati oko potrošnje električne energije koju koristi vještačka inteligencija, a pritom obje zvuče samouvjereno dok pričaju o potpuno različitim stvarima. Jedna osoba misli na jedan odgovor chatbota. Druga misli na ogroman trening. Oboje kažu "AI" i odjednom razgovor skrene s puta 😅

Tabela za poređenje - najbolji načini za procjenu potrošnje energije umjetne inteligencije 📊

Evo praktične tabele za svakoga ko pokušava da odgovori na pitanje, a da ga ne pretvori u performans.

Alat ili metoda Najbolja publika Cijena Zašto to funkcioniše
Jednostavna procjena na osnovu empirijskog pravila Znatiželjni čitaoci, studenti Besplatno Brzo, jednostavno, malo nejasno - ali dovoljno dobro za gruba poređenja
Vatmetar na strani uređaja Samostalni graditelji, hobisti Nisko Mjeri stvarnu potrošnju mašine, koja je osvježavajuće konkretna
Kontrolna ploča za telemetriju GPU-a Inženjeri, ML timovi Srednji Bolji detalji o zadacima koji zahtijevaju mnogo računanja, iako se mogu propustiti veći režijski troškovi postrojenja
Cloud naplata + zapisnici korištenja Startupi, operativni timovi Srednje do visoko Povezuje korištenje umjetne inteligencije sa stvarnom potrošnjom - nije savršeno, ali je i dalje prilično vrijedno
Izvještavanje o energiji u podatkovnim centrima Poslovni timovi Visoko Pruža širu operativnu vidljivost, hlađenje i infrastruktura počinju se ovdje prikazivati
Procjena potpunog životnog ciklusa Timovi za održivost, velike organizacije Visoko, ponekad bolno Najbolji za ozbiljnu analizu jer ide dalje od samog čipa... ali je spor i pomalo zvijer

Ne postoji savršena metoda. To je pomalo frustrirajući dio. Ali postoje nivoi vrijednosti. I obično, nešto upotrebljivo je bolje od savršenog. ( Google Cloud )

Najveći faktor nije magija - to su računarstvo i hardver 🖥️🔥

Kada ljudi zamišljaju potrošnju energije putem vještačke inteligencije, često zamišljaju sam model kao nešto što troši energiju. Ali model je softverska logika koja se izvršava na hardveru. Hardver je mjesto gdje se pojavljuje račun za struju. ( Strubell i dr. , Google Cloud )

Najveće varijable obično uključuju:

Visoko optimizovan sistem može obaviti više posla sa manje energije. Neuredan sistem može rasipati električnu energiju sa zapanjujućom samouvjerenošću. Znate kako je - neke postavke su trkaći automobili, neke su kolica za kupovinu sa raketama zalijepljenim selotejpom 🚀🛒

I da, veličina modela je bitna. Veći modeli obično zahtijevaju više memorije i više računanja, posebno prilikom generiranja dugih izlaza ili rješavanja složenog razmišljanja. Ali trikovi za efikasnost mogu promijeniti sliku: ( Zelena umjetna inteligencija , kvantizacija, grupiranje i strategije posluživanja u LLM-u )

Dakle, pitanje nije samo „Koliko je model velik?“, već i „Koliko inteligentno se njime upravlja?“

Trening naspram zaključivanja - ovo su različite životinje 🐘🐇

Ovo je podjela koja zbunjuje gotovo sve.

Obuka

Trening je faza u kojoj model uči obrasce iz ogromnih skupova podataka. To može uključivati ​​mnogo čipova koji rade duži vremenski period, obrađujući ogromne količine podataka. Ova faza je energetski zahtjevna. Ponekad izuzetno. ( Strubell i dr. )

Energija treninga zavisi od:

  • veličina modela

  • veličina skupa podataka

  • broj treninga

  • neuspjeli eksperimenti

  • fino podešavanje pasova

  • efikasnost hardvera

  • hlađenje nadzemnih dijelova ( Strubell i dr. , Google Research )

A evo i dijela koji ljudi često propuste - javnost često zamišlja jedan veliki trening, urađen jednom, i kraj priče. U praksi, razvoj može uključivati ​​ponovljene pokušaje, podešavanje, ponovnu obuku, evaluaciju i sve prozaične, ali skupe iteracije oko glavnog događaja. ( Strubell et al. , Green AI )

Zaključivanje

Inferencija je model koji odgovara na stvarne korisničke zahtjeve. Jedan zahtjev možda ne izgleda mnogo. Ali inferencija se dešava iznova i iznova. Milione puta. Ponekad milijarde. ( Google Research , DOE )

Energija zaključivanja raste sa:

Dakle, trening je zemljotres. Zaključivanje je plima. Jedno je dramatično, drugo je uporno, a oboje mogu malo preoblikovati obalu. Možda je to neobična metafora, ali se drži zajedno... manje-više.

Skriveni troškovi energije koje ljudi zaboravljaju 😬

Kada neko procjenjuje potrošnju energije umjetne inteligencije gledajući samo na čip, obično podcjenjuje. Ne uvijek katastrofalno, ali dovoljno da bude važno. ( Google Cloud , IEA )

Evo skrivenih dijelova:

Hlađenje ❄️

Serveri generiraju toplinu. Moćan hardver umjetne inteligencije generira mnogo topline. Hlađenje nije opcionalno. Svaki vat potrošen na računanje obično dovodi do veće potrošnje energije samo kako bi se održala razumna temperatura. ( IEA , Google Cloud )

Kretanje podataka 🌐

Premještanje podataka između skladišta, memorije i mreža također zahtijeva energiju. Vještačka inteligencija ne samo da "razmišlja". Ona također stalno premješta informacije. ( IEA )

Neaktivni kapacitet 💤

Sistemi izgrađeni za vršnu potražnju ne rade uvijek pri vršnoj potražnji. Neaktivna ili nedovoljno iskorištena infrastruktura i dalje troši električnu energiju. ( Google Cloud )

Redundancija i pouzdanost 🧱

Sigurnosne kopije, sistemi za prebacivanje u slučaju kvara, duplicirane regije, sigurnosni slojevi - sve je vrijedno, sve je dio šire energetske slike. ( IEA )

Skladište 📦

Podaci za obuku, ugrađivanja, logovi, kontrolne tačke, generisani izlazi - sve se to negdje nalazi. Skladištenje je jeftinije od računarstva, sigurno, ali nije besplatno u smislu energije. ( IEA )

Zato se na pitanje " Koliko energije koristi vještačka inteligencija?" ne može dobro odgovoriti gledajući samo jedan grafikon. Važan je cijeli stack. ( Google Cloud , IEA )

Zašto jedan AI prompt može biti sićušan - a sljedeći može biti čudovište 📝➡️🎬

Nisu svi zahtjevi jednaki. Kratak zahtjev za prepisivanje rečenice nije uporediv sa zahtjevom za dugu analizu, višekoračnu sesiju kodiranja ili generiranje slike visoke rezolucije. ( Google Cloud )

Stvari koje obično povećavaju potrošnju energije po interakciji:

Jednostavan tekstualni odgovor može biti relativno jeftin. Ogroman multimodalni radni proces može, pa, biti ne jeftin. Pomalo je kao naručivanje kafe naspram keteringa za vjenčanje. Tehnički, oboje se računa kao "usluga hrane". Jedno nije isto kao drugo ☕🎉

Ovo je posebno važno za timove za proizvode. Funkcija koja se čini bezopasnom pri maloj upotrebi može postati skupa u velikim razmjerima ako svaka korisnička sesija postane duža, bogatija i računski zahtjevnija. ( DOE , Google Cloud )

Potrošačka umjetna inteligencija i umjetna inteligencija za preduzeća nisu ista stvar 🏢📱

Prosječna osoba koja ležerno koristi vještačku inteligenciju mogla bi pretpostaviti da su njihovi povremeni upiti veliki problem. Obično se glavna priča o energiji ne nalazi u tome. ( Google Cloud )

Korištenje u preduzećima mijenja matematiku:

  • hiljade zaposlenih

  • uvijek uključeni kopiloti

  • automatizovana obrada dokumenata

  • sažetak poziva

  • analiza slike

  • alati za pregled koda

  • pozadinski agenti koji neprestano rade

Tu ukupna potrošnja energije počinje da bude veoma važna. Ne zato što je svaka akcija apokaliptična, već zato što je ponavljanje multiplikator. ( DOE , IEA )

U mojim vlastitim testovima i pregledima radnog procesa, upravo se tu ljudi iznenade. Fokusiraju se na naziv modela ili blještavu demonstraciju, a ignoriraju količinu. Količina je često pravi pokretač - ili spasonosna milost, ovisno o tome da li naplaćujete korisnicima ili plaćate račun za komunalije 😅

Za potrošače, uticaj može djelovati apstraktno. Za preduzeća, on vrlo brzo postaje konkretan:

  • veći računi za infrastrukturu

  • veći pritisak za optimizaciju

  • veća potreba za manjim modelima gdje je to moguće

  • interno izvještavanje o održivosti

  • više pažnje posvećeno keširanju i usmjeravanju ( Google Cloud , Green AI )

Kako smanjiti potrošnju energije umjetne inteligencije bez odustajanja od umjetne inteligencije 🌱

Ovaj dio je važan jer cilj nije "prestati koristiti umjetnu inteligenciju". Obično to nije realno, pa čak ni neophodno. Bolje korištenje je pametniji put.

Evo najvećih poluga:

1. Koristite najmanji model koji obavlja posao

Nije svakom zadatku potrebna teška opcija. Lakši model za klasifikaciju ili sumiranje može brzo smanjiti otpad. ( Zelena umjetna inteligencija , Google Cloud )

2. Skratite upite i izlaze

Detaljan unos, detaljan izlaz. Dodatni tokeni znače dodatno računanje. Ponekad je skraćivanje prompta najlakša pobjeda. ( Kvantizacija, grupiranje i strategije posluživanja u LLM-u za korištenje energije , Google Cloud )

3. Keširajte ponovljene rezultate

Ako se isti upit stalno pojavljuje, nemojte ga ponovo generirati svaki put. Ovo je gotovo očigledno, ali ipak se previdi. ( Google Cloud )

4. Grupni poslovi kada je to moguće

Izvršavanje zadataka u serijama može poboljšati iskorištenost i smanjiti otpad. ( Kvantizacija, serija i strategije posluživanja u LLM-u za korištenje energije )

5. Inteligentno usmjeravajte zadatke

Koristite velike modele samo kada padne samopouzdanje ili se poveća složenost zadatka. ( Zelena umjetna inteligencija , Google Cloud )

6. Optimizirajte infrastrukturu

Bolje raspoređivanje, bolji hardver, bolja strategija hlađenja - prozaične stvari, ogromna isplativost. ( Google Cloud , DOE )

7. Izmjerite prije nego što pretpostavite

Mnogi timovi misle da znaju kuda ide snaga. Zatim mjere, i eto - skupi dio se nalazi negdje drugdje. ( Google Cloud )

Rad na efikasnosti nije glamurozan. Rijetko dobija pohvale. Ali je jedan od najboljih načina da se vještačka inteligencija učini pristupačnijom i odbranjivijom u velikim razmjerima 👍

Uobičajeni mitovi o korištenju električne energije od strane umjetne inteligencije 🚫

Hajde da razjasnimo nekoliko mitova jer se ova tema brzo zapetlja.

Mit 1 - Svaki upit upućen umjetnoj inteligenciji je izuzetno rasipnički

Ne nužno. Neki su skromni. Obim i tip zadatka su veoma važni. ( Google Cloud )

Mit 2 - Trening je jedino što je važno

Ne. Inferencija može dominirati tokom vremena kada je upotreba ogromna. ( Google Research , DOE )

Mit 3 - Veći model uvijek znači bolji ishod

Ponekad da, ponekad apsolutno ne. Mnogi zadaci se sasvim dobro obavljaju s manjim sistemima. ( Zelena umjetna inteligencija )

Mit 4 - Potrošnja energije automatski znači utjecaj na ugljik

Ne baš. Ugljik također ovisi o izvoru energije. ( IEA , Strubell i dr. )

Mit 5 - Možete dobiti jedan univerzalni broj za korištenje energije umjetne inteligencije

Ne možete, barem ne u obliku koji ostaje smislen. Ili možete, ali će biti toliko usrednjeno da prestaje biti vrijedno. ( IEA )

Zato je pametno pitati " Koliko energije koristi vještačka inteligencija?" - ali samo ako ste spremni za višeslojan odgovor umjesto slogana.

Dakle... koliko energije zapravo troši vještačka inteligencija? 🤔

Evo utemeljenog zaključka.

Vještačka inteligencija koristi:

  • malo , za neke jednostavne zadatke

  • mnogo više , za tešku multimodalnu proizvodnju

  • vrlo velika količina , za obuku modela velikih razmjera

  • ogromna količina ukupno , kada se milioni zahtjeva gomilaju tokom vremena ( Google Cloud , DOE )

To je oblik toga.

Ključno je ne svesti cijeli problem na jedan zastrašujući broj ili jedno odbacivanje. Potrošnja energije umjetne inteligencije je stvarna. Bitna je. Može se poboljšati. A najbolji način da se o tome govori je u kontekstu, a ne teatralnošću. ( IEA , Zelena umjetna inteligencija )

Veliki dio javne rasprave oscilira između krajnosti - s jedne strane „AI je u osnovi besplatna“, a s druge strane „AI je električna apokalipsa“. Stvarnost je običnija, što je čini informativnijom. To je sistemski problem. Hardver, softver, upotreba, skala, hlađenje, dizajnerski izbori. Prozaično? Malo. Važno? Vrlo. ( IEA , Google Cloud )

Ključne stvari ⚡🧾

Ako ste ovdje došli pitajući se: Koliko energije koristi vještačka inteligencija?, evo zaključka:

  • Ne postoji univerzalni broj

  • Trening obično troši najviše energije na početku

  • Zaključivanje postaje glavni faktor na velikoj skali

  • Veličina modela, hardver, radno opterećenje i hlađenje su sve bitne

  • Male optimizacije mogu napraviti iznenađujuće veliku razliku

  • Najpametnije pitanje nije samo „koliko“, već i „za koji zadatak, na kojem sistemu, u kojoj mjeri?“ ( IEA , Google Cloud )

Dakle, da, vještačka inteligencija koristi stvarnu energiju. Dovoljno da zasluži pažnju. Dovoljno da opravda bolji inženjering. Ali ne na crtani način, zasnovan na jednom broju.

Često postavljana pitanja

Koliko energije vještačka inteligencija troši za jednu poruku?

Ne postoji univerzalni broj za jedan upitnik, jer potrošnja energije zavisi od modela, hardvera, dužine upitnika, dužine izlaza i bilo kakve dodatne upotrebe alata. Kratak tekstualni odgovor može biti relativno skroman, dok dugi multimodalni zadatak može potrošiti znatno više. Najznačajniji odgovor nije jedna naslovna slika, već kontekst koji okružuje zadatak.

Zašto se procjene korištenja snage umjetne inteligencije toliko razlikuju?

Procjene variraju jer ljudi često porede vrlo različite stvari pod jednom oznakom AI. Jedna procjena može opisati lagani odgovor chatbota, dok druga može obuhvatiti generiranje slika, video ili obuku modela velikih razmjera. Da bi procjena bila smislena, potreban joj je kontekst kao što su vrsta zadatka, veličina modela, hardver, iskorištenost, hlađenje i lokacija.

Da li je veći trošak energije obučavanje vještačke inteligencije ili svakodnevno korištenje vještačke inteligencije?

Obuka je obično veliki početni događaj koji zahtijeva mnogo energije, jer može uključivati ​​mnogo čipova koji rade duži vremenski period na ogromnim skupovima podataka. Inferencija je tekući trošak koji se pojavljuje svaki put kada korisnici pošalju zahtjeve, a u velikim razmjerima može postati i vrlo velik. U praksi, oba su važna, iako na različite načine.

Šta čini jedan zahtjev umjetne inteligencije mnogo energetski intenzivnijim od drugog?

Duži kontekstualni prozori, duži izlazi, ponovljeni prolazi zaključivanja, pozivi alata, koraci preuzimanja i multimodalno generiranje imaju tendenciju povećanja potrošnje energije po interakciji. Ciljevi latencije su također važni, jer zahtjevi za bržim odgovorom mogu smanjiti efikasnost. Mali zahtjev za prepisivanje i dugi tijek rada kodiranja ili slike jednostavno se ne mogu porediti.

Koje skrivene troškove energije ljudi previđaju kada pitaju koliko energije koristi vještačka inteligencija?

Mnogi ljudi se fokusiraju samo na čip, ali zanemaruju hlađenje, premještanje podataka, pohranu, kapacitet u stanju mirovanja i pouzdanost sistema kao što su sigurnosne kopije ili regije za prebacivanje u slučaju kvara. Ovi prateći slojevi mogu značajno promijeniti ukupni otisak. Zato sam benchmark rijetko obuhvata potpunu sliku potrošnje energije.

Da li veći model umjetne inteligencije uvijek troši više energije?

Veći modeli obično zahtijevaju više računarske snage i memorije, posebno za duge ili složene izlaze, pa često troše više energije. Ali veće ne znači automatski i bolje za svaki zadatak, a optimizacija može znatno promijeniti sliku. Manji specijalizirani modeli, kvantizacija, grupiranje, keširanje i pametnije usmjeravanje mogu poboljšati efikasnost.

Da li je korištenje umjetne inteligencije od strane potrošača glavni energetski problem ili je umjetna inteligencija od strane preduzeća veći problem?

Povremena upotreba od strane potrošača može se nagomilati, ali šira priča o potrošnji energije često se pojavljuje u poslovnim implementacijama. Stalno aktivni kopiloti, obrada dokumenata, sumiranje poziva, pregled koda i agenti u pozadini stvaraju ponovljenu potražnju među velikim korisničkim bazama. Problem se obično manje svodi na jednu dramatičnu akciju, a više na održivi obim tokom vremena.

Koliko energije koristi vještačka inteligencija kada se uključe podatkovni centri i hlađenje?

Kada se uključi širi sistem, odgovor postaje realniji i obično je veći nego što sugeriraju procjene zasnovane samo na čipovima. Centrima podataka je potrebna energija ne samo za računanje, već i za hlađenje, umrežavanje, pohranu i održavanje rezervnih kapaciteta. Zato su dizajn infrastrukture i efikasnost objekta gotovo jednako važni kao i dizajn modela.

Koji je najpraktičniji način za mjerenje potrošnje energije umjetne inteligencije u stvarnom radnom procesu?

Najbolja metoda zavisi od toga ko mjeri i u koju svrhu. Grubo pravilo može pomoći kod brzih poređenja, dok vatmetri, GPU telemetrija, zapisnici o naplati u oblaku i izvještavanje iz podatkovnog centra pružaju progresivno jači operativni uvid. Za ozbiljan rad na održivosti, potpuniji pogled na životni ciklus je još jači, iako je sporiji i zahtjevniji.

Kako timovi mogu smanjiti potrošnju energije umjetne inteligencije bez odustajanja od korisnih funkcija umjetne inteligencije?

Najveći dobici obično dolaze od korištenja najmanjeg modela koji i dalje obavlja posao, skraćivanja upita i izlaza, keširanja ponovljenih rezultata, grupiranja rada u grupe i usmjeravanja samo težih zadataka na veće modele. Optimizacija infrastrukture je također važna, posebno raspoređivanje i efikasnost hardvera. U mnogim cjevovodima, mjerenje prvog koraka pomaže u sprječavanju timova da optimiziraju pogrešnu stvar.

Reference

  1. Međunarodna agencija za energiju (IEA) - Potražnja za energijom uzrokovana umjetnom inteligencijom - iea.org

  2. Ministarstvo energetike SAD-a (DOE) - DOE objavljuje novi izvještaj u kojem se procjenjuje povećanje potražnje za električnom energijom u podatkovnim centrima - energy.gov

  3. Google Cloud - Mjerenje utjecaja zaključivanja umjetne inteligencije na okoliš - cloud.google.com

  4. Google Research - Dobre vijesti o ugljičnom otisku obuke za mašinsko učenje - research.google

  5. Google Research - Ugljični otisak obuke za mašinsko učenje će se izravnati, a zatim smanjiti - research.google

  6. arXiv - Zelena umjetna inteligencija - arxiv.org

  7. arXiv - Strubell et al. - arxiv.org

  8. arXiv - Kvantizacija, grupiranje i strategije posluživanja u LLM korištenju energije - arxiv.org

Pronađite najnoviju umjetnu inteligenciju u službenoj trgovini AI Assistant

O nama

Nazad na blog