Væskekjølte AI-servere møter flaskehalser

 

 

 

Med økningen i forsendelser av Blackwell-brikker vil også kundenes vilje til å ta i bruk væskekjøling øke.

Bransjeinnsidere rapporterer at tilbudet av universelle hurtigkoblingsenheter (UQD) for flytende kjøleløsninger begynner å bli trangt, noe som kan bli en stor flaskehals for veksten av AI-servervæskekjøling.

 

Server ODM-produsenter indikerer at Nvidias Blackwell AI-brikker, inkludert B100 og B200, vil begynne å sendes i år, mens GB200-løsningen ikke kommer inn i masseproduksjon før i slutten av 2024 eller 2025. De fleste kunder av B100 og B200 bruker fortsatt luftkjølingsdesign , men ODM-produsenter rapporterer om en fortsatt økning i penetrasjon av væskekjøling, og forventer at kundenes vilje til å ta i bruk væskekjøling også vil øke med økningen i Blackwell-chipforsendelser.

 

▲ Væskekjølte AI-servere

 

 

I Utvide kapasiteten for å møte den økende etterspørselen etter væskekjøling

 

Relevante selskaper utvider produksjonen for å ønske den nye æraen med væskekjøling velkommen. Termisk modulprodusent Amlogic planlegger å øke sin månedlige produksjonskapasitet for vannkjøleplater fra 30,000 til 300,000 enheter.

 

Auras har satt opp en ny fabrikk i Thailand for å møte kundenes geopolitiske bekymringer og krav. Denne fabrikken forventes å starte masseproduksjon i tredje kvartal. I tillegg til å utvide lokal produksjonskapasitet for kjøleplater, planlegger Auras også å produsere kjølefordelingsenheter (CDU) og kjølevæskefordelingsmanifolder (CDM) lokalt, med en planlagt månedlig kapasitet på ca. 2,000-3,{{2 }} sett.

 

Termisk modulprodusent AVC uttalte i sin nylige inntektsmelding at kjøleplatemodulens månedlige produksjonskapasitet i Kina og Vietnam er omtrent 115,000 enheter, noe som tilsvarer en månedlig produksjon på rundt 420,000 enheter når beregnet av kjøleplater.

 

AVC planlegger å utvide sin kapasitet med 50 % innen utgangen av året. AVC planlegger også å øke sin månedlige produksjonskapasitet for CDUer til 1,000 enheter og for CDMer til 30,{4}} sett. AVC understreket at denne planlagte kapasiteten kan justeres fleksibelt basert på kundeordrekrav.

 

Thermo Technology Company Goli Thermal Processing utvider sin kapasitet ved Zhongli-anlegget i Taiwan på grunn av økt kundeetterspørsel etter væskekjøling. Ved utgangen av tredje kvartal forventes den månedlige kapasiteten for CDM-er å øke fra 1,000 enheter til 2,000 enheter, og ved slutten av året til 4,{{5} } enheter, med en årlig CDU-produksjon som også forventes å nå 2,000 enheter ved årsslutt.

 

Disse produsentene har høye forventninger til etterspørselen om væskekjøling, hovedsakelig på grunn av beregningseffektiviteten og PUE-standardene for datasenter i Kina og EU, men den viktigste faktoren er at Nvidia opphever selvpålagte restriksjoner på termiske spesifikasjoner for brikkeprodusenter.

 

 

II Rask vekst av væskekjøling fører til UQD-mangel

 

Ettersom industrien ivrig forutser ankomsten av væskekjølingstiden, har UQD blitt den største flaskehalsen for vekst. Termiske modulprodusenter har påpekt at tilbudet av UQD-er nylig har blitt stramt. Selv om den nåværende markedsandelen for flytende kjøling kun er ensifret, kan det bli vanskelig å få tak i UQD-er hvis den stiger til tosifret i fremtiden.

 

UQD-leverandører kommer primært fra Europa og USA, som de store amerikanske selskapene Parker Hannifin og CPC, sveitsiske Staubli International, danske Danfoss og svenske Cejn. Den taiwanske kontaktkomponentgiganten Lotes går også aktivt inn på markedet og har begynt prøveleveranser.

 

Anbo Technologys styreleder, Liang Zhijian, påpekte at siden væskekjøling primært tar sikte på å unngå lekkasjer, og UQD-er er de komponentene som er mest utsatt for lekkasje, er UQD-forsyningen den mest begrensede blant væskekjølekomponenter. Dette er ikke bare et teknisk problem; relevante produsenter har også patentbeskyttelse, og Anbo Technology forsker på måter å bryte gjennom disse patentbarrierene.

 

Bransjeinnsidere har lagt merke til at mens UQD-produsenter har patentbeskyttelse, må de også gå gjennom flere valideringer, inkludert OCP-sertifisering og klientvalideringer, som er tidkrevende og arbeidskrevende. Dessuten har eksisterende europeiske og amerikanske produsenter ingen intensjon om å utvide kapasiteten, noe som vil bli en stor flaskehals for den raske utviklingen av væskekjøling.

 

Supermicro er en av de raskest voksende produsentene av væskekjøling. Grunnlegger og administrerende direktør Liang Jianhou påpekte at væskekjøling kun har utgjort 1 % av servermarkedet de siste 30 årene, men han anslår at innen 2025 vil penetrasjonsraten hoppe til 30 %.

 

 

III Væskekjøling som en potensiell løsning; AI-bom legger press på nettet

 

Den raske utviklingen av generativ kunstig intelligens har drevet enestående ekspansjon i datasentre, noe som vekker bekymring for deres innvirkning på strømnettet. Disse energikrevende anleggene vil kunne føre til strømbrudd og økte energikostnader. I følge estimater fra Electric Power Research Institute vil datasentre innen 2030 kunne forbruke 9% av USAs strøm, en dobling av dagens tall. Strømforbruket til et stort datasenter tilsvarer hundretusenvis av husstander.

 

Det økende kraftbehovet fra kunstig intelligens er spesielt bekymringsfullt. Tidlige AI-modeller forbrukte ti ganger så mye energi som et Google-søk, mens nyere brikker krever enda mer strøm. Eksperter advarer om at den fremtidige utviklingen av kunstig intelligens kan være begrenset av vår evne til å generere tilstrekkelig kraft.

 

Noen land står overfor store utfordringer. For eksempel, innen 2026, kan Irland ha 30 % av sin strøm dedikert til datasentre. I USA er strømforbruket til datasenteret konsentrert i 15 stater, med Texas og Virginia som de høyeste. California er i en kritisk situasjon, med nye datasentre som forventes å generere elektrisitetsbehov som overstiger atomkraftverk.

 

 

IV-datasentre: enormt energiforbruk og økningen i væskekjøling

 

Beregningskravene til kunstig intelligens driver opp servertemperaturer og karbonutslipp, noe som resulterer i en betydelig økning i etterspørselen etter kjølesystemer. Kjølesystemer står for 40 % av et datasenters totale strømforbruk, noe som gjør dem til den nest største kilden til strømforbruk etter serverne selv. Det globale serverkjølemarkedet anslås å vokse fra 20 milliarder dollar i 2024 til 90 milliarder dollar innen 2027. Markedet for væskekjølesystemer i datasentre forventes å øke fra 1 % til 22 %, med markedsverdi anslått å vokse fra 317 millioner dollar til 7,8 milliarder dollar de neste tre årene.

 

Flytende kjøleløsninger, som bruker vann eller kjølevæsker til å kjøle servere, blir stadig mer populære. Nye teknologier inkluderer nedsenkingskjøling (nedsenking av hele serverrack i ikke-ledende væsker) og direkte væskekjøling (sirkulerer vann rundt servere). Selv om det for tiden er dyrere enn luftkjølesystemer, kan væskekjøling redusere strømforbruket til et datasenter med 10 % eller mer.

 

Forskningsfirmaet Global Market Insights spår at det globale væskekjølingsmarkedet for datasentre vil vokse fra 2,1 milliarder dollar i 2022 til 12,2 milliarder dollar innen 2032. En undersøkelse fra Uptime Institute fant at 16 % av datasenterlederne tror at væskekjøling vil bli den primære kjølingen metode om 1-3 år, mens 41 % tror det vil ta 4-6 år. Derfor er det mer sannsynlig at hybridkjølingsmetoder dukker opp på kort sikt.

 

Upsite Technologies, en leder innen styring av luftkjølesystemer for datasentre, bemerket at selv om teknologien er i stadig fremgang, er det usannsynlig på kort sikt å oppnå 100 % væskekjølte datasentre, siden væskekjøleutstyr fortsatt krever luftkjøling for varmeavledning. . Selv om væskekjøling er mer effektivt, er det utfordrende å implementere i stor skala og krever betydelige forhåndsinvesteringer. Luftkjøling er mindre kostbart, men også mindre effektivt. Dermed blir hybridkjøleanlegg stadig mer populære for å maksimere fordelene med både væske- og luftkjøling.

 

 

V Datasenterets energikrise krever hastetiltak

 

På grunn av deres miljøpåvirkning får datasentre stadig større oppmerksomhet. Myndigheter over hele verden implementerer forskrifter for å kontrollere deres energiforbruk og karbonavtrykk. Kinas retningslinjer for "Green Data Center" og lignende initiativer i Tyskland, Singapore og Japan eksemplifiserer denne trenden. Bransjeeksperter som Schneider Electric understreker behovet for omfattende miljømålinger for å vurdere bærekraften til datasentre, inkludert faktorer utover energibruk, som vannressurser og avfallsgenerering.

 

Den amerikanske regjeringen presser store teknologiselskaper til å investere i ren energi og anerkjenne den betydelige innvirkningen som de økende kraftkravene til kunstig intelligens har på miljøet.

 

 

VI Finne passende strømkilder: Datasenter og energiutfordringer

 

Datasentre trenger en diversifisert energimiks for å balansere pålitelighet og bærekraft og samtidig møte økende krav. Fornybare energikilder som sol og vind er attraktive på grunn av deres lave karbonfotavtrykk. Imidlertid kan deres avhengighet av værforhold føre til ustabil produksjon, noe som gjør dem uegnet som eneste strømkilde for datasentre. Å bygge overflødige fasiliteter for å kompensere for denne inkonsekvensen kan være nødvendig, men kostbart.

 

Atomkraft har dukket opp som en potensiell løsning. Tradisjonelle kjernekraftverk gir pålitelig grunnlastkraft, og genererer stabil elektrisitet som er avgjørende for datasenterdrift. Dessuten forventes det globale kjernekraftmarkedet å oppnå jevn vekst i løpet av det neste tiåret.

 

Innovasjoner i atomsektoren gir mer lovende muligheter. Små modulære reaktorer (SMR) utvikles som mindre, sikrere og mer skalerbare alternativer til tradisjonelle kjernekraftverk. Selv om de fortsatt er på forsknings- og utviklingsstadiet, har SMR-er potensial til å bli distribuert direkte på datasentre, og gir dedikert ren energi.

 

▲ Globalt væskekjølingsmarked (US$b)

 

 

Imidlertid står den utbredte bruken av SMR-er overfor betydelige hindringer. Regulerings- og produksjonsutfordringer kan forsinke deres kommersielle distribusjon med flere år. Den amerikanske regjeringen utforsker aktivt løsninger, inkludert partnerskap med teknologigiganter for å redusere kostnader og effektivisere prosesser.

 

En annen måte å redusere datasenterets energibehov er å optimalisere kunstig intelligens-arbeidsmengder. Ved å flytte noen AI-oppgaver fra skyen til lokale enheter med mindre, mindre ressurskrevende AI-modeller, kan det totale energiforbruket reduseres.

 

Den fremtidige utviklingen av datasentre krever en mangefasettert tilnærming. Å ta i bruk en diversifisert energimiks, inkludert pålitelige energikilder som kjernekraft, mens man aktivt søker fornybare og innovative løsninger som SMR-er, er avgjørende. I tillegg kan optimalisering av AI-arbeidsbelastninger på lokale enheter fremme bærekraften til datasentre ytterligere.