Kompiuterių lustai, maitinantys jūsų „ChatGPT“ klausimus, sunaudoja maždaug šešis kartus daugiau energijos nei lustai, kurie dominavo duomenų centruose vos prieš kelerius metus. Kai AI verčia atskiras žetonas vartoti dramatiškai daugiau elektros energijos, duomenų centrai lenktyniauja, kad išspaustų daugiau skaičiavimo galios iš kiekvienos vatos – ir „Silicon Cool“ palaikymo fizika gali nustatyti, ar dirbtinis intelektas tampa tvarus.
Dėl tinklo apribojimų tampa vis sunkesnės naujos galios jungtys, duomenų centrų operatoriai ir tyrėjai stengiasi rasti efektyvumo padidėjimą visur, kur tik gali. Tačiau nedideli patobulinimai, tokie kaip skysčiai aušinamos elektros sistemos, protingesni techninės priežiūros tvarkaraščiai ir aukštesnės įtampos elektros paskirstymas, susiduria su pagrindinėmis fizikos problemomis ir ekonominėmis paskatomis, kurios teikia pirmenybę veiklai, o ne tvarumui. Kyla klausimas, ar šios papildomos pergalės gali neatsilikti AI eksponentinis elektros apetitas.
Serverio lentynos statymai didėja. Duomenų centrai jau sunaudoja apie 4% Iš JAV elektros tinklo, tikimasi, kad per ateinantį dešimtmetį pasieks 9%. Tokiose karštose rinkose, tokiose kaip Virdžinija ir Teksasas, energetikos įmonės yra taip priblokštos naujų duomenų centro jungčių užklausų, kad jos apmokestina milijonus dolerių, kad tik ištirtų, ar tinklelis gali tvarkyti krovinį.
Tai sukūrė naują skubumą dėl senos metrikos: energijos naudojimo efektyvumo arba PUE, kuris matuoja, kiek elektros energija iš tikrųjų pasiekia kompiuterius, palyginti su kiek švaistoma aušinant ir kitomis pridėtinėmis išlaidomis. Matematika paprasta, tačiau paraštės yra griežtos. Duomenų centras, einantis 1,5 PUE, gali pristatyti tik 67% savo gaunamos elektros energijos faktiniam skaičiavimui – likusi dalis išnyksta į aušinimo sistemas ir galios konvertavimo nuostolius. Anot Ryano Mallory, duomenų centro operatoriaus „Flexential“ prezidento ir generalinio direktoriaus COO, gali sutaupyti energijos ir sutaupyti išlaidų.
„Mes kalbame apie dešimtis ir šimtus procentinių taškų“, – teigė Mallory. „Bet tai labai, labai paveikia operacijų sąnaudas. Jei numesite pue dešimtadalį procentinio taško – tarkime, kad einate nuo 1,4 iki 1,3 – galite padidinti 50 000 USD per mėnesį efektyvumą už kiekvieną megavatų energijos suvartojimą.”
Vienam dideliam įrenginiui tai greitai padidėja. Vienas iš „Mallory“ klientų eksploatuoja 27 megavatų AI įrenginį, kur 0,1% PUE pagerinimas sutaupo 1,35 mln. USD per mėnesį arba daugiau nei 16 mln. USD per metus. Dar svarbiau, kad tas pats efektyvumo padidėjimas reiškia, kad įrenginys gali įtraukti daugiau skaičiavimo galios į tą patį tinklo ryšį – labai svarbų, kai naujų galios sujungimų gali prireikti metų, kad milijonai galėtų mokytis ir kainuoti tik studijoms.
Atsižvelgiant į didžiulę statybos mastą, šie pelnai tampa dar reikšmingesni. Pagrindinių duomenų centrų rinkose Šiaurės Amerikoje dabar yra beveik 7000 megavatų pajėgumų, kuriose yra daugiau nei 6000 megavatų Nekilnojamojo turto įmonė CBRE. Visoje pėdsake net kuklūs efektyvumo pagerėjimas gali reikšti žymiai didesnę AI skaičiavimo pajėgumą, nereikalaujant papildomo įtampos jau užvaldytam elektriniam tinklui.
Vėsinimo krizė
Kelias į tą „Pue“ pelną dažnai lemia fiziką ir planavimą. „Hyperscale“ operatoriai, tokie kaip „Google“ ir „Meta“, gali pasiekti net 1,1 arba 1,2 PUE reitingus, nes jų serverių ūkiuose naudojama identiška įranga, išdėstyta numatomais modeliais, sukurdami nuoseklų oro srautą. Tačiau daugumoje duomenų centrų yra įvairių klientų, turinčių skirtingą aparatinę įrangą, derinys, sukuriantis tai, ką Mallory pavadino „chaotiškais oro srauto modeliais ir šiluminėse karštose vietose“, dėl kurių efektyviai aušina daug sunkiau.
Nepaisant to, kaip puikiai sutvarkyti, visi duomenų centrai kovoja su ta pačia kova su šiluma.
Operatoriai kūrybingai valdo tą šilumą. „Mallory“ įmonė suplanuoja įrangos priežiūrą vėsesnėmis rytinėmis valandomis, kad būtų išvengta baudos energijos baudos už bėgimo bandymus per smailės temperatūrą. Karšto klimato, tokio kaip Las Vegasas ir Finiksas, įrenginiuose naudojamos garinamosios aušinimo sistemos, kurios prieš pradedant orą prieš įeinant į pagrindinę aušinimo sistemą, panašiai kaip ir klaidos lauko restoranuose. Kai kurie žiemos mėnesiais netgi gali bakstelėti į „nemokamą oro aušinimą“, atidarant ventiliacijos angas, kad būtų galima naudoti šaltą lauko orą.
Norėdami efektyviau valdyti didžiules galios apkrovas, duomenų centrai turėjo atnaujinti savo elektros sistemas. Norėdami efektyviau valdyti didžiules galios apkrovas, duomenų centrai turėjo atnaujinti savo elektros sistemas. Tradiciniuose duomenų centruose buvo naudojamas mažesnės įtampos galios pasiskirstymas, tačiau AI stelažams dabar reikalingos aukštesnės įtampos sistemos, kai kurie operatoriai planuoja šokinėti iki 400 ar net 800 voltų.
Didesnė įtampa leidžia mažesnei srovei esant ta pačia galia, todėl sumažėja atsparumo nuostoliai, kurie taurią elektrą paverčia nepageidaujama šiluma. Tai yra dviejų asmenų efektyvumo padidėjimas, sumažinantis tiek iššvaistytą energiją, tiek šilumos gamybą. Bet net ir šie patobulinimai negali išspręsti pagrindinės stelažų, sukuriančių tiek šilumos, kaip kosminių šildytuvų, patektų į spintelės dydžio pėdsaką.
Norint iš tikrųjų išspręsti šilumos problemą, duomenų centruose reikia radikalesnių sprendimų. Štai kodėl „TE“ ryšys ir kitos įmonės sukūrė skysčius aušinamą energijos paskirstymo sistemas-iš esmės vandenį aušinamus elektrinius kabelius-kurie gali valdyti daugiau energijos tame pačiame pėdsake kaip tradicinės sistemos, tuo pačiu efektyviau pašalinant šilumą.
Ganesh Srinivasan, tikimasi, kad per dvejus trejus metus, yra kuriama apie 30% naujų duomenų centrų, kurių procentas tikimasi, kad per dvejus trejus metus sumažės 50% per dvejus trejus metus, „TE Connectivity“ skaitmeninių duomenų tinklų verslo verslo viceprezidentas Ganesh Srinivasan.
Tačiau skystas aušinimas sukuria savo tvarumo iššūkį: Duomenų centrai gali suvartoti milijonus galonų vandens kasmet aušinimui, įtempdami vietinį vandens tiekimą. Kai kurie įrenginiai eksperimentuoja su panardinimo aušinimu – tiesiogine prasme iškasti ištisų mineralinių aliejų serverius – ir tai pašalina vandens naudojimą, nors logistika daro jį nepraktišką daugeliui iki šiol programų.
Nenumatytos efektyvumo pasekmės
Be infrastruktūros patobulinimų, lustų gamintojai siekia savo efektyvumo padidėjimo. Tokios įmonės kaip AMD lažinasi dėl stelažo masto architektūros Tai gali padidinti energijos vartojimo efektyvumą 20 kartų iki 2030 m., O naujesni lustų dizainai palaiko mažesnius tikslumo skaičiavimus, kurie gali žymiai sumažinti skaičiavimo apkrovą. Nvidia’s Naujos kartos „Blackwell“ GPU – Ir net Naujesnė „Blackwell Ultra“ platforma – Pažadėkite savo pačių efektyvumo pagerėjimą. NVIDIA generalinis direktorius Jensenas Huangas pareiškė, kad bendrovės GPU yra paprastai 20 kartų daugiau energijos taupančios Tam tikruose AI darbo krūviuose nei tradiciniai procesoriai.
Tačiau darbe yra esminis paradoksas su naujesniais lustais. Pasak Dan Alistarh, Austrijos mokslo ir technologijos instituto profesoriaus Dano Alistarho, kuris tiria algoritmo efektyvumą, energijos sąskaitos išaugo maždaug dvigubai padvigubinant. „Tai keistas kompromisas, nes jūs važiuojate greičiau, bet jūs taip pat naudojate daugiau energijos“,-teigė Alistarhas.
Algoritmai, maitinantys AI, rodo dar mažesnę pažangą siekiant efektyvumo. Tyrėjai, tokie kaip „Alistarh“, vis dar dirba prie metodų, kurie galėtų sumažinti generatyvinės AI energijos suvartojimą, pavyzdžiui, naudoti paprastesnę matematiką, kuriai reikia mažiau skaičiavimo galios. Kitos grupės tyrinėja visiškai skirtingas architektūras, kurios galėtų visiškai pakeisti transformatorius.
Tačiau šios naujovės stengėsi įgyti trauką, nes PG įmonės daugiausia vertinamos atsižvelgiant į tai, kaip jų modeliai atlieka standartizuotus testus, matuojančius tokias galimybes kaip samprotavimai, matematika ir kalbos supratimas, balai, kurie daro tiesioginį poveikį finansavimui ir rinkos suvokimui.
Bendrovės mieliau kuria energijos reikalaujančius modelius, kurie šiuose testuose vertina aukštesnius, o ne efektyvius, kurie gali atsilikti nuo konkurentų, net šiek tiek. Rezultatas yra pramonė, optimizuojanti lyderių lentelės reitingą, palyginti su tvarumu, pagerinant efektyvumą, neatsižvelgiant į tai, kiek sutaupoma išlaidų, geriausiu atveju antrinio rūpesčio.
„Viskas, kas nuleidžia jus žemiau žiurkių lenktynių, yra akivaizdi nuostolis“, – teigė Alistarhas. „Niekas negali sau leisti to daryti”.
Kai kurie šio straipsnio ataskaitos buvo vykdomos kaip žurnalistikos rezidentūros dalis, kurią finansavo Austrijos mokslo ir technologijos institutas.
