Fremveksten av flytende kjøleløsninger i AI-servere: En TrendForce-analyse

 

Ⅰ Introduksjon

 

I følge den siste undersøkelsen fra TrendForce forventes penetrasjonshastigheten for flytende kjøleløsninger å øke, drevet av den forventede frakten av NVIDIA Blackwell-plattformen i fjerde kvartal 2024. Denne hastigheten anslås å øke fra rundt 10 % i 2024 til over 20 % i 2025. Den økende globale bevisstheten om miljø-, sosial- og styringsfaktorer (ESG), kombinert med akselerert konstruksjon av AI-servere av Cloud Service Providers (CSP-er), baner vei for et betydelig skifte fra tradisjonell luftkjøling til avanserte flytende kjøleløsninger.

 

Væskekjøling gir flere fordeler fremfor luftkjøling, inkludert forbedret termisk styring, redusert støynivå og økt energieffektivitet. Ettersom etterspørselen etter AI-evner øker, spesielt i dataintensive applikasjoner, blir overgangen til flytende kjølesystemer stadig mer kritisk for å opprettholde optimal serverytelse.

 

▲ Væskekjølingssystem brukt i AI-servermiljøer

 

 

Ⅱ NVIDIAs dominans i AI-servermarkedet

 

I det globale AI-servermarkedet fortsetter NVIDIA å regjere, og har en markedsandel på nær 90 % i GPU AI-serversegmentet fra og med 2024. AMD følger betydelig med en markedsandel på omtrent 8 %. Denne dominansen skyldes i stor grad NVIDIAs banebrytende teknologi og dets robuste økosystem, som støtter et bredt spekter av applikasjoner innen AI, maskinlæring og dataanalyse.

 

TrendForce bemerker at forsendelsesskalaen til NVIDIA Blackwell i år er relativt liten. Dette er først og fremst fordi plattformen gjennomgår endelige test- og valideringsprosesser innenfor forsyningskjeden, som krever kontinuerlig optimalisering innen områder som høyhastighets dataoverføring og kjøledesign. Blackwell-plattformens økte energiforbruk, spesielt i GB200-stativløsningen, nødvendiggjør overlegen kjøleeffektivitet, noe som akselererer bruken av flytende kjøleløsninger ytterligere.

 

▲ NVIDIA Blackwell-plattform for AI-servere

 

Til tross for fordelene med væskekjøling, viser det nåværende serverøkosystemet fortsatt en lav bruksrate for denne teknologien. Original Design Manufacturers (ODMs) må navigere i en læringskurve for å møte utfordringer knyttet til lekkasje og kjøleeffektivitet. Siden andelen high-end GPUer på Blackwell-plattformen forventes å overstige 80 % innen 2025, vil dette tenne konkurranse blant strømforsyningsprodusenter og kjøleindustrien i det fremvoksende AI-væskekjølingsmarkedet, noe som fører til et nytt konkurranselandskap.

 

 

 

Ⅲ Akselerert distribusjon av store CSPer

 

Store skytjenesteleverandører, inkludert Google, AWS og Microsoft, har raskt akselerert sine AI-serverdistribusjoner de siste årene, hovedsakelig ved å bruke NVIDIA GPUer og egenutviklede ASICer. Den termiske designeffekten (TDP) til NVIDIAs GB200 NVL72-kabinett er omtrent 140 kW, noe som understreker det presserende behovet for væskekjølingsløsninger for effektivt å håndtere varmespredning. Væske-til-luft (L2A) kjølemetoder forventes å bli den vanlige tilnærmingen i denne sammenhengen.

 

▲ AI-serverdistribusjon i datasentre

 

Mens NVIDIAs GPUer dominerer, har Google også vært proaktiv i å utforske væskekjølingsløsninger for Tensor Processing Units (TPUer). Googles forpliktelse til denne teknologien posisjonerer den som det mest fremtidsrettede amerikanske selskapet innen flytende kjøling. BOYD og Cooler Master er hovedleverandørene for Googles kaldplater, som er avgjørende for å opprettholde optimale temperaturer i datamiljøer med høy ytelse.

 

På fastlands-Kina utvider Alibaba aggressivt sine datasentre for væskekjøling, og understreker ytterligere det globale skiftet mot denne avanserte kjøleteknologien. Andre skytjenesteleverandører fortsetter primært å stole på luftkjølingsløsninger for deres egenutviklede AI ASIC-er, noe som kan hindre ytelse sammenlignet med væskekjølte systemer.

 

 

Ⅳ Nøkkelleverandører og komponentbetegnelse

 

Etter hvert som overgangen til flytende kjøling tar fart, utpeker skytjenesteleverandører nøkkelkomponentleverandører for GB200-kabinettets væskekjølingsløsninger. For tiden er Qihong og Cooler Master ledende leverandører for kalde plater, mens manifoldkomponenter hentes fra Cooler Master og Shuanghong. Kjølevæskefordelingsenheter (CDUer) leveres av industriledere som Vertiv og Delta.

 

For viktige lekkasjeforebyggende komponenter som hurtigkoblinger (QDs), er produsenter som CPC, Parker Hannifin, Danfoss og Staubli sterkt involvert i innkjøp. Etter hvert som flere leverandører som Jiazhe og Fushida går inn i valideringsstadiet, vil de ha muligheter til å levere raske frakoblingskomponenter i første halvdel av 2025, og bidra til å dempe den nåværende ubalansen mellom tilbud og etterspørsel.

 

▲ Nøkkelleverandører for flytende kjølekomponenter

 

 

Ⅴ Fordelene med flytende kjøling

 

Forbedret kjøleeffektivitet

Væskekjølesystemer er designet for å fjerne varme mer effektivt enn luftkjølesystemer. Dette er spesielt viktig i AI-applikasjoner der prosessorer kan generere betydelig varme på grunn av høye beregningskrav. Ved å bruke væske til å absorbere og overføre varme fra komponenter, kan servere operere ved lavere temperaturer, noe som reduserer risikoen for termisk struping og forbedrer ytelsen.

 

Plassoptimalisering

Væskekjølesystemer tar ofte mindre plass enn tradisjonelle luftkjøleløsninger, noe som gir mer effektiv datasenterdesign. Denne plassbesparende egenskapen er spesielt gunstig for organisasjoner som ønsker å maksimere serverkapasiteten uten å utvide sitt fysiske fotavtrykk.

 

Energieffektivitet

Med økende fokus på bærekraft og energieffektivitet, kan flytende kjøleløsninger bidra til å redusere det totale energiforbruket til datasentre. Ved å minimere avhengigheten av vifter og klimaanlegg, kan flytende kjøling redusere energikostnadene og karbonfotavtrykk, i tråd med ESG-målene mange selskaper streber etter å oppnå.

 

Støyreduksjon

Væskekjølesystemer fungerer mer stillegående enn tradisjonelle luftkjølte systemer, noe som fører til et mer behagelig arbeidsmiljø i datasentre. Denne støyreduksjonen er et viktig hensyn for anlegg som ligger nær befolkede områder eller innenfor kontorbygg.

 

 

Ⅵ Ta tak i vanlige utfordringer

 

Til tross for fordelene, kommer overgangen til flytende kjøling med utfordringer. Disse inkluderer:

 

Startkostnader

Forhåndsinvesteringen for flytende kjølesystemer kan være høyere enn tradisjonelle luftkjøleløsninger. Organisasjoner må veie disse kostnadene opp mot de langsiktige fordelene og besparelsene i energieffektivitet og vedlikehold.

 

Lekkasje bekymringer

En av de viktigste utfordringene knyttet til væskekjøling er risikoen for lekkasjer. Riktig design, materialvalg og vedlikeholdsprotokoller er avgjørende for å redusere denne risikoen og sikre systemets pålitelighet.

 

Vedlikeholdskompleksitet

Væskekjølesystemer krever mer komplekst vedlikehold sammenlignet med luftkjølte systemer. Organisasjoner må lære opp sine ansatte eller engasjere spesialiserte tjenesteleverandører for å sikre at væskekjølingsløsninger forblir effektive og fri for problemer.

 

 

Ⅶ Fremtidige trender innen væskekjøling

 

Ettersom etterspørselen etter AI-databehandling fortsetter å øke, forventes flere fremtidige trender å forme det flytende kjølelandskapet:

 

Adopsjon av hybridløsninger

Hybride kjølesystemer som kombinerer både luft- og væskekjøleteknologier vil sannsynligvis få trekkraft. Disse systemene kan gi fleksibilitet og effektivitet, tilpasse seg ulike arbeidsbelastninger og operasjonelle behov.

 

Avanserte materialer

Utviklingen av avanserte materialer for flytende kjølekomponenter kan forbedre ytelsen og påliteligheten. Innovasjoner innen materialvitenskap kan føre til lettere, mer holdbare og mer effektive kjøleløsninger.

 

Integrasjon med AI og IoT

Integreringen av AI- og IoT-teknologier i kjølesystemer kan optimalisere ytelsen ved å muliggjøre sanntidsovervåking og automatiserte justeringer basert på miljøforhold og serverarbeidsbelastninger.

 

Bærekraftsfokus

Ettersom selskaper i økende grad prioriterer bærekraft, vil flytende kjøleløsninger som bruker miljøvennlige kjølevæsker og materialer bli mer utbredt. Bransjen kan se et skifte mot lukkede sløyfer for å minimere avfall og miljøpåvirkning.

 

▲ Fremtidige trender innen væskekjølingsteknologi

 

 

 

Ⅷ Konklusjon

 

Overgangen fra luft- til væskekjølingsløsninger i AI-servere representerer en betydelig utvikling i bransjen, drevet av fremskritt innen teknologi og den økende etterspørselen etter effektiv termisk styring. Med NVIDIA som leder an i AI-servermarkedet og store skytjenesteleverandører som Google aktivt utforsker alternativer for flytende kjøling, endrer landskapet seg raskt.

 

Ved å forstå fordelene og utfordringene med væskekjøling, samt nøkkelaktørene som er involvert i implementeringen, kan organisasjoner bedre posisjonere seg for å utnytte denne teknologien for forbedret ytelse, bærekraft og konkurranseevne i AI-landskapet. Ettersom industrien beveger seg fremover, vil væskekjølingsløsninger spille en avgjørende rolle i å forme fremtiden til datasentre, og sikre at de kan møte kravene til neste generasjons AI-applikasjoner.