Koliko vode koristi vještačka inteligencija?

Kladim se da ste čuli sve, od "AI pije flašu vode svakih nekoliko pitanja" do "to je u osnovi nekoliko kapi". Istina je nijansiranija. Vodeni otisak AI-a uveliko varira na osnovu toga gdje se izvršava, koliko je dugačak vaš upit i kako podatkovni centar hladi svoje servere. Dakle, da, glavni broj postoji, ali se krije iza mnoštva upozorenja.

U nastavku analiziram jasne, donošene odluke brojke, objašnjavam zašto se procjene ne slažu i pokazujem kako građevinari i svakodnevni korisnici mogu smanjiti potrošnju vode, a da se ne postanu monasi održivosti.

Članci koje biste možda željeli pročitati nakon ovog:

🔗 Šta je skup podataka umjetne inteligencije
Objašnjava kako skupovi podataka omogućavaju obuku mašinskog učenja i razvoj modela.

🔗 Kako umjetna inteligencija predviđa trendove
Pokazuje kako umjetna inteligencija analizira obrasce kako bi predvidjela promjene i buduće ishode.

🔗 Kako mjeriti performanse umjetne inteligencije
Razlaže bitne metrike za procjenu tačnosti, brzine i pouzdanosti.

🔗 Kako razgovarati sa vještačkom inteligencijom
Vodi efikasne strategije podsticanja za poboljšanje jasnoće, rezultata i dosljednosti.

Koliko vode koristi vještačka inteligencija? Brzi brojevi koje zapravo možete koristiti 📏

• Tipičan raspon po upitu danas: od manjih za srednji tekstualni upit na jednom mainstream sistemu, do desetina mililitara za duži odgovor koji zahtijeva više računarskih resursa na drugom. Na primjer, Googleovo računovodstvo produkcije izvještava da je srednji tekstualni upit ~0,26 mL (uključujući i pune troškove posluživanja) [1]. Mistralova procjena životnog ciklusa određuje da odgovor pomoćnika od 400 tokena iznosi ~45 mL (marginalna inferencija) [2]. Kontekst i model su veoma važni.

• Obuka modela na graničnim razmjerama: može se mjeriti milionima litara , uglavnom od hlađenja i vode ugrađene u proizvodnju električne energije. Široko citirana akademska analiza procijenila je ~5,4 miliona litara za obuku modela GPT klase, uključujući ~700.000 litara potrošenih na licu mjesta za hlađenje - i zalagala se za pametno raspoređivanje kako bi se smanjio intenzitet vode [3].

• Centri podataka općenito: velike lokacije kod glavnih operatera u prosjeku stotine hiljada galona dnevno

Budimo iskreni: te brojke na prvi pogled djeluju nedosljedno. Jesu. I postoje dobri razlozi za to.

Metrike potrošnje vode pomoću umjetne inteligencije ✅

Dobar odgovor na pitanje Koliko vode koristi vještačka inteligencija? treba da označi nekoliko polja:

1. Jasnoća granica
   Da li uključuje samo za hlađenje na licu mjesta ili i izvan lokacije elektrane koriste za proizvodnju električne energije? Najbolja praksa razlikuje crpljenje vode od potrošnje vode i obuhvata 1-2-3, slično obračunu ugljika [3].

2. Osjetljivost lokacije Potrošnja
   vode po kWh varira ovisno o regiji i sastavu mreže, tako da isti zahtjev može imati različite utjecaje na vodu ovisno o tome gdje se isporučuje - ključni razlog zašto literatura preporučuje planiranje koje uzima u obzir vrijeme i mjesto [3].

3. Realnost radnog opterećenja
   Da li broj odražava medijan produkcijskih zahtjeva , uključujući neaktivni kapacitet i opterećenje podatkovnog centra, ili samo akcelerator u vršnom stanju? Google naglašava obračun cijelog sistema (neaktivnost, CPU/DRAM i opterećenje podatkovnog centra) za zaključivanje, a ne samo matematiku TPU-a [1].

4. Tehnologija hlađenja
   Isparavajuće hlađenje, hlađenje tekućinom u zatvorenoj petlji, hlađenje zrakom i novi direktnog hlađenja čipa dramatično mijenjaju intenzitet korištenja vode. Microsoft uvodi dizajne namijenjene eliminaciji upotrebe vode za hlađenje za određene lokacije sljedeće generacije [4].

5. Doba dana i godišnje doba
   Toplina, vlažnost i uslovi u mreži mijenjaju efikasnost korištenja vode u stvarnom životu; jedna utjecajna studija sugerira da se veći poslovi planiraju kada i gdje je intenzitet opskrbe vodom niži [3].

Objašnjenje povlačenja vode u odnosu na potrošnju vode 💡

• Povlačenje = voda uzeta iz rijeka, jezera ili vodonosnika (neka vraćena).

• Potrošnja = voda koja se ne vraća jer isparava ili se ugrađuje u procese/proizvode.

Rashladni tornjevi prvenstveno troše vodu isparavanjem. Proizvodnja električne energije može povući velike količine (ponekad potrošivši i dio vode), ovisno o postrojenju i metodi hlađenja. Vjerodostojna umjetna inteligencija (AI) označava količinu vode koju prijavljuje [3].

Gdje voda ide u vještačkoj inteligenciji: tri kante 🪣

1. Opseg 1 - hlađenje na licu mjesta
   Vidljivi dio: voda je isparavala u samom podatkovnom centru. Izbori dizajna poput isparavanja u odnosu na zrak ili tekućine zatvorenog kruga postavljaju osnovu [5].

2. Područje 2 - proizvodnja električne energije
   Svaki kWh može nositi skrivenu oznaku vode; mješavina i lokacija određuju signal litara po kWh koji vaše radno opterećenje nasljeđuje [3].

3. Područje 3 - lanac snabdijevanja
   Proizvodnja čipova oslanja se na ultra čistu vodu u proizvodnji. Nećete to vidjeti u metrici "po promptu" osim ako granica eksplicitno ne uključuje utjelovljene utjecaje (npr. potpuna LCA) [2][3].

Pružaoci usluga po brojkama, sa nijansama 🧮

• Google Gemini upiti
  Metoda posluživanja s punim stackom (uključujući neaktivnost i opterećenje postrojenja). Srednji tekstualni upit ~0,26 mL vode uz ~0,24 Wh energije; brojke odražavaju proizvodni promet i sveobuhvatna ograničenja [1].

• Životni ciklus Mistral Large 2
  Rijetka nezavisna LCA (s ADEME/Carbone 4) otkriva ~281.000 m³ za obuku + ranu upotrebu i marginu inferencije od ~45 mL za od 400 tokena [2].

• Microsoftova ambicija hlađenja bez upotrebe vode
  Centri podataka sljedeće generacije dizajnirani su tako da ne troše vodu za hlađenje , oslanjajući se na pristupe direktnog hlađenja čipom; administrativna upotreba i dalje zahtijeva određenu količinu vode [4].

• Opšta skala podatkovnih centara
  Veliki operateri javno prijavljuju stotine hiljada galona dnevno u prosjeku na pojedinačnim lokacijama; klima i dizajn povećavaju ili smanjuju brojke [5].

• Ranija akademska osnova:
  Osnovna analiza „žedne umjetne inteligencije“ procijenila je milione litara za obuku modela GPT klase i da bi 10-50 srednjih odgovora moglo otprilike biti jednako od 500 mL - što uveliko zavisi od toga kada/gdje se pokreću [3].

Zašto se procjene toliko razlikuju 🤷

• Različite granice
  Neke brojke uključuju samo hlađenje na licu mjesta ; druge dodaju električnu energiju i vodu ; LCA mogu uključivati ​​proizvodnju čipsa . Jabuke, narandže i voćna salata [2][3].

• Različita radna opterećenja
  Kratki tekstualni upit nije dugo multimodalno/kodno izvršavanje; grupiranje, konkurentnost i ciljevi latencije mijenjaju iskorištenost [1][2].

• Različite klime i mreže
  Isparavajuće hlađenje u vrućem, sušnom području ≠ hlađenje zrakom/tečnošću u hladnom, vlažnom. Intenzitet vode u mreži znatno varira [3].

• Metodologije dobavljača
  Google je objavio metodu posluživanja na nivou cijelog sistema; Mistral je objavio formalnu LCA. Drugi nude tačkaste procjene s rijetkim metodama. Poznata "jednoj petnaestini čajne kašičice" po upitu dospjela je na naslovnice - ali bez detaljnih granica, nije uporediva [1][3].

• Pokretna meta
  Hlađenje se brzo razvija. Microsoft testira hlađenje bez vode na određenim lokacijama; uvođenje ovih sistema će smanjiti potrošnju vode na licu mjesta čak i ako uzvodna električna energija i dalje nosi signal za vodu [4].

Šta možete učiniti danas da smanjite vodeni otisak umjetne inteligencije 🌱

1. Pravilno dimenzioniranje modela
   Manji, modeli prilagođeni zadacima često odgovaraju tačnosti uz manje računarske resurse. Mistralova procjena naglašava snažne korelacije između veličine i zauzete površine - i objavljuje marginalne inferencijalne brojke kako biste mogli razmišljati o kompromisima [2].

2. Birajte regije koje štede vodu.
   Preferirajte regije s hladnijom klimom, efikasnim hlađenjem i mrežama s nižim intenzitetom vode po kWh; rad na „žednoj umjetnoj inteligenciji“ pokazuje da planiranje koje je svjesno vremena i mjesta

3. Vremenski
   rasporedite obuku/zaključivanje velikih serija za sate koji štede vodu (hladnije noći, povoljniji uslovi u mreži) [3].

4. Pitajte svog dobavljača za transparentne metrike
   o potražnji vode po upitu , definicijama granica i da li brojke uključuju neaktivne kapacitete i režijske troškove postrojenja. Grupe za kreiranje politika insistiraju na obaveznom objavljivanju kako bi se omogućila poređenja uporedivih rezultata [3].

5. Tehnologija hlađenja je bitna.
   Ako koristite hardver, razmislite o zatvorenoj petlji/direktnom hlađenju čipa ; ako koristite cloud, preferirajte regije/pružaoce usluga koji ulažu u dizajne sa vodenim osvjetljenjem [4][5].

6. Korištenje sive vode i opcije ponovne upotrebe
   Mnogi kampusi mogu zamijeniti izvore vode koji nisu za piće ili reciklirati unutar krugova; veliki operateri opisuju balansiranje izvora vode i izbora hlađenja kako bi se smanjio neto utjecaj [5].

Kratak primjer da se to shvati realno (nije univerzalno pravilo): premještanje noćnog treninga iz vrućeg, suhog područja usred ljeta u hladnije, vlažnije područje u proljeće - i njegovo provođenje tokom hladnijih sati van vršnih opterećenja - može promijeniti i potrošnju vode na licu mjesta izvan mreže . To je vrsta praktičnog, nisko-dramatičnog rasporeda pobjeda koju možemo ostvariti [3].

Tabela za poređenje: brzi izbori za smanjenje potrošnje vode koju uzrokuje vještačka inteligencija 🧰

(„Cijena“ je po dizajnu niska - implementacije variraju.)

Detaljna analiza: bubnjevi politike sve su glasniji 🥁

Inženjerska tijela pozivaju na obavezno objavljivanje informacija o energiji i vodi u podatkovnim centrima kako bi kupci i zajednice mogli procijeniti troškove i koristi. Preporuke uključuju definicije opsega, izvještavanje na nivou lokacije i smjernice za lokaciju - jer bez uporedivih metrika koje su svjesne lokacije, raspravljamo u mraku [3].

Detaljna analiza: ne koriste svi podatkovni centri podatke na isti način 🚰

Postoji uporan mit da „hlađenje zrakom ne koristi vodu“. Ne baš. Sistemi koji koriste puno zraka često zahtijevaju više električne energije , koja u mnogim regijama nosi skrivenu vodu iz mreže; s druge strane, hlađenje vodom može smanjiti potrošnju energije i emisije na štetu vode na licu mjesta. Veliki operateri eksplicitno balansiraju ove kompromise od lokacije do lokacije [1][5].

Detaljan uvid: brza provjera stvarnosti u vezi s viralnim tvrdnjama 🧪

Možda ste vidjeli smjele tvrdnje da jedan upitnik znači „boca vode“ ili, s druge strane, „samo nekoliko kapi“. Bolje držanje: poniznost s matematikom . Današnji vjerodostojni uvodi su ~0,26 mL za medijan produkcijski upitnik s punim režijskim troškovima serviranja [1] i ~45 mL za odgovor pomoćnika od 400 tokena (marginalna inferencija) [2]. Često dijeljena „jednoj petnaestini čajne kašičice“ nema javnu granicu/metod; tretirajte je kao vremensku prognozu bez grada [1][3].

Mini-FAQ: Koliko vode koristi vještačka inteligencija? opet, na jednostavnom engleskom 🗣️

• Dakle, šta bih trebao reći na sastanku?
  „Po zadatku, varira od kapi do nekoliko gutljaja , ovisno o modelu, dužini i mjestu gdje se održava. Trening traje u bazenima , a ne u lokvama.“ Zatim navedite jedan ili dva primjera iznad.

• Da li je vještačka inteligencija jedinstveno loša?
  Jedinstveno je koncentrirana : čipovi velike snage spakovani zajedno stvaraju velika opterećenja hlađenja. Ali podatkovni centri su također mjesto gdje se najučinkovitija tehnologija obično prva pojavljuje [1][4].

• Šta ako jednostavno sve prebacimo na hlađenje zrakom?
  Možda bismo smanjili na licu mjesta , ali bismo povećali izvan lokacije putem električne energije. Sofisticirani operateri uzimaju u obzir oba faktora [1][5].

• Šta je sa budućom tehnologijom?
  Dizajni koji izbjegavaju hlađenje vode u velikim količinama bili bi prekretnica za Scope 1. Neki operateri se kreću u ovom smjeru; uzvodna električna energija i dalje nosi signal vode sve dok se mreže ne promijene [4].

Završne napomene - Predugo, nisam pročitao/la 🌊

• Po promptu: zamislite količine od manjih do desetina mililitara , ovisno o modelu, dužini prompta i mjestu izvršavanja. Srednja vrijednost prompta je ~0,26 mL na jednom glavnom steku; ~45 mL za odgovor od 400 tokena na drugom [1][2].

• Obuka: milioni litara za granične modele, što čini raspoređivanje, lociranje i tehnologiju hlađenja kritičnim [3].

• Šta učiniti: modeli prave veličine, odabrati regije s niskim udjelom vode, prebaciti teške poslove na hladnije sate, preferirati dobavljače koji dokazuju dizajn s niskim udjelom vode i zahtijevati transparentne granice [1][3][4][5].

Pomalo pogrešna metafora za kraj: VI je žedan orkestar - melodija je računska, ali bubnjevi se hlade i natapaju vodu. Naštimujte bend i publika će i dalje čuti muziku bez aktiviranja prskalica. 🎻💦

Reference

1. Google Cloud Blog - Koliko energije koristi Googleova umjetna inteligencija? Izračunali smo (metodologija + ~0,26 mL medijana upita, puni režijski troškovi posluživanja). Link
   (Tehnički rad u PDF formatu: Mjerenje utjecaja na okoliš pružanja umjetne inteligencije u Googleovim razmjerima .) Link

2. Mistral AI - Naš doprinos globalnom ekološkom standardu za AI (LCA sa ADEME/Carbone 4; ~281.000 m³ obuke + rana upotreba; ~45 mL po od 400 tokena , marginalna inferencija). Link

3. Li i dr. - Kako učiniti vještačku inteligenciju manje „žednom“: Otkrivanje i rješavanje tajnog vodnog otiska modela vještačke inteligencije (obuka miliona litara , svjesno vremena i mjesta , povlačenje u odnosu na potrošnju). Link

4. Microsoft - Centri podataka sljedeće generacije ne troše vodu za hlađenje (dizajni direktno na čip usmjereni na hlađenje bez vode na određenim lokacijama). Link

5. Google podatkovni centri - Održivo poslovanje (kompromisi u hlađenju od lokacije do lokacije; izvještavanje i ponovna upotreba, uključujući recikliranu/sivu vodu; tipična dnevna upotreba na nivou lokacije). Link

Pronađite najnoviju umjetnu inteligenciju u službenoj trgovini AI Assistant

O nama