Økende etterspørsel utløser en datakraftrevolusjon, flytende kjøling vil sterkt drive industriens vekst!

 

Siden 2023 har OpenAIs AI chatbot-modell, ChatGPT, fått stor anerkjennelse. Den bruker store mengder treningsdata for å simulere menneskelig språkadferd, generere tekst gjennom semantisk analyse, slik at den kan samhandle med brukere på en naturlig og realistisk måte, ofte umulig å skille fra menneskelig interaksjon.

 

På mange områder, som poesiskaping og manusskriving, overgår den til og med menneskelige evner. Utviklingen av kunstig intelligens krever imidlertid ekstremt kraftig datakraft, noe som fører til økt serverstrømforbruk, høyere strømtetthet per enhet i datasentre og økende energiforbruk. Tradisjonell luftkjølingsteknologi kan ikke lenger dekke kjølebehov, noe som gjør væskekjøling til en nødvendighet som utvilsomt vil drive industrivekst!

 

▲ OpenAIs AI chatbot-modell, ChatGPT

 

 

Ⅰ Den eksplosive suksessen til ChatGPT: Hva slags datakraft krever det?

 

Data, algoritmer og datakraft er de tre kjerneelementene i kunstig intelligens, med datakraft som kalles "motoren" eller "motoren" til AI. Både data og algoritmer er avhengige av datakraft. I følge OpenAI-estimater, siden 2012, har datakraften som kreves for å trene verdens beste AI-modeller doblet seg omtrent hver 3-4 måned, med en årlig økning i datakraften som kreves for topptreningsmodeller som har nådd så mye som tidoblet. I løpet av treningsfasen forbrukte ChatGPT totalt ca. 3640 PF-dager (som betyr å kjøre med 1 PetaFLOP/s effektivitet i 3640 dager). Dette fremhever at sterk datakraft er nøkkelen til å støtte videre anvendelse og popularisering av AI-generert innhold (AIGC) i fremtiden.

 

Ta ChatGPT som et eksempel: den støttes av GPT-3.5-modellen, som har gått gjennom tre iterasjoner (GPT-1, GPT-2, GPT-3), med antall parametere som øker fra 117 millioner til 175 milliarder, og mengden førtreningsdata øker fra 5GB til 45TB (tilsvarer 160 ganger hele den engelske versjonen av Wikipedia). Denne enorme mengden data og beregninger krever høyere datakraft for å støtte driften. I følge data fra Similarweb hadde ChatGPT i januar 2023 omtrent 13 millioner daglige aktive brukere, som hver stilte spørsmål på i gjennomsnitt rundt 1,{14}} ord.

 

Dette genererte totalt omtrent 13 milliarder ord (17,33 milliarder tokens). Forutsatt at oppgavene er jevnt fordelt over 24 timer, vil antallet A100 GPUer som kreves være 17,33 milliarder * 2 * 300 milliarder / (20 % * 24 timer * 3600 sekunder)=601.75 PetaFLOP/S. Gitt at det eksisterer trafikktopper, forutsatt at topptrafikken er fem ganger det daglige gjennomsnittet, vil totalt 602 DGX A100-servere være nødvendig for å møte dagens trafikkbehov, noe som gjør kravene til datakraft ekstremt strenge.

 

Dette illustrerer at for å trene enda bedre AI-modeller og virkelig bruke AI-modeller på tvers av ulike bransjer, trengs det mer effektiv datakraft og mer rikelig med dataressurser. Datakraft har blitt en kritisk faktor som begrenser industrialiseringen av kunstig intelligens, og den vil utløse en ny datakraftrevolusjon! Med den raske økningen i etterspørselen om AI-datakraft, akselererer kraften til relaterte CPUer/GPUer, noe som krever sterkere og mer effektive kjøleløsninger for å holde utstyret i gang jevnt.

 

 

Ⅱ Omfattende bruk av datakraft

 

I den digitale økonomiens æra er datakraft ikke bare en nøkkelfaktor for produktiviteten, men kommer også til å bli universelt brukt. Etter hvert som byggingen av datakraftinfrastruktur skrider frem, dukker det raskt opp nye modeller og forretningsformer for datakraftapplikasjoner, som dypt integrerer datakraft i flere bransjer, slik som produksjon, transport, utdanning, romfart, finans og media. Samtidig er datakraftplanlegging, administrasjon og handel i ferd med å bli fokuspunkter for industriutforskning. Datakraft utvikler seg fra en «ressurs» til en «faktor», og blir en vesentlig del av folks produksjon og liv.

 

Utviklingen av ulike bransjer har utløst en eksplosjon i etterspørselen etter datakraft. For å maksimere prosessorytelsen kreves høyere kjøleeffektivitet, og tradisjonell luftkjølingsteknologi kan ikke lenger møte de økende kravene til datakraft. Væskekjølingsservere, med sine fordeler, er satt til å vinne en betydelig markedsandel og sterkt drive industriutvikling!

 

 

Ⅲ Betydelig økning i etterspørselen etter væskekjøling

 

I 2022 så Intels fjerde generasjons serverprosessorer strømforbruket til enkelt CPU overstige 350 watt, og NVIDIAs strømforbruk for én GPU-brikke oversteg 700 watt. Datakrafttettheten til AI-klynger nådde generelt 50 kW per kabinett, og tradisjonell luftkjølingsteknologi kan ikke lenger klare det! Høyere kjøleeffektivitet er nødvendig for å maksimere prosessorytelsen.

 

I mellomtiden, fra et politisk perspektiv, har initieringen av Kinas "Eastern Data, Western Computing"-prosjekt og de doble karbonmålene fått industrien til å være mer oppmerksom på energisparing, utslippsreduksjon og utvikling av høy kvalitet. Det er satt strengere tekniske krav til strømforbrukseffektiviteten (PUE) til datasentre, med gjennomsnittlig PUE for nybygde store og superstore datasentre over hele landet som skal reduseres til under 1,3, og ytterligere reduseres til under 1,25 på nasjonalt nivå. hub noder.

 

Væskekjøling oppfyller markedskostnadseffektivitet og behov for retningslinjer for retningslinjer i mange aspekter, inkludert økonomisk effektivitet og kjøleytelse, noe som gjør det både svært verdifullt og økonomisk fordelaktig. I følge CCID Consulting forventes Kinas væskekjølte IDC-marked å overstige 120 milliarder yuan innen 2025, med en vekstrate på over 30 % og en penetrasjonsrate for tiden rundt 20 %. Etterspørselen etter væskekjøling øker betydelig, og markedsutsiktene er lovende.

 

 

Ⅳ Bransjekjeden for væskekjølingsservere

 

1. Panoramaet over væskekjøleindustrien

Serverindustrien for væskekjøling omfatter mye mer enn bare væskekjølingsservere; hele bransjekjeden er lang, med brede delfelt og mange deltakende aktører, noe som gjør den til en kapitalintensiv bransje.Væskekjølingsteknologi er for tiden i et raskt utviklingsstadium, og dersom de aktuelle aktørene har fordeler med finansiering eller kundeanskaffelse, kan de bygge visse etableringsbarrierer.

 

Bedrifter i ulike underfelt infiltrerer gradvis relaterte felt basert på deres kjernefordeler, og bygger sine egne økosystemer. I henhold til inndelingen fra infrastruktur til applikasjoner, kan den væskekjølte datasenterindustrien deles inn i tre store underområder: væskekjølingsinfrastruktur, midtstrømsindustri og industriapplikasjoner.

 

Liquid Cooling Infrastructure Sector leverer det essensielle utstyret og fasilitetene for å bygge væskekjølte datasentre. Det er delt inn i underfelt som væskekjøleskap, kjølevæske, kjølesystemer, kraftsystemer, nettverkssystemer og styringssystemer for datasenterinfrastruktur. Disse delfeltene leverer hovedsakelig utstyr, programvaresystemer og kjølemedier for serverdrift. I tillegg inkluderer infrastruktursektoren entreprenører, nettoperatører og kraftleverandører. Entreprenører er ansvarlige for bygging og installasjon av nevnte utstyr og anlegg, nettoperatører gir grunnleggende nettilgang, og kraftleverandører sørger for elektrisitet som trengs for utstyrsdrift. Disse områdene gir et relativt grunnleggende perifert miljø for datasentre.

 

Midtstrømsindustrien inkluderer serverprodusenter, hostingleverandører for datasenter og noen nye aktører. Serverprodusenter forsker på, designer og produserer servere som er egnet for væskekjølende miljøer eller produserer direkte væskekjølte servere med kald plate. Datasenter-vertsleverandører bygger og driver datasentre, og utnytter sine egne fordeler for å integrere ressurser fra infrastruktursektoren og tilby server-vertstjenester til applikasjonsbrukere. Ettersom datasentre utvikler seg raskt, kommer nye selskaper inn i det væskekjølte datasenterfeltet.

 

Brukere av datasenterapplikasjoner er hovedsakelig delt inn i tre underfelt: cloud computing og cloud computing power, internett og blockchain, og andre brukere. De er de primære brukerne av datasentre. Cloud computing og cloud computing kraftleverandører genererer inntekter ved å tilby kundene fleksibel datakraftallokering og planlegging gjennom virtualisering. Noen store internett- og blokkjedeselskaper bygger ofte datasentre direkte i samarbeid med datasenteroperatører, mens andre brukere vanligvis enten er vert for eller leier server eller datakraftressurser fra datasenteroperatører.

 

2. Oversikt over væskekjølingsindustrien

Sammenlignet med luftkjøling gir væskekjølingsteknologi fordeler med høy stabilitet og høy kjøleeffektivitet. Fra et omfattende bruksperspektiv avslører væskekjøling gradvis sine økonomiske fordeler når effekttettheter overstiger 15kW per skap. I følgeUPS-applikasjonjournal, kan CPU-kjernetemperaturen til væskekjølte servere være 20-30 grader lavere enn maksimumstemperaturen i luftkjølte systemer, noe som forbedrer påliteligheten betydelig.

 

Intels hvitbok,Green Data Center Innovation Practices-Cold Plate Liquid Cooling System Design Reference, indikerer at luftkjølte datasentre typisk kan håndtere kjøling for skap med effektnivåer på opptil 12kW. For skap som overstiger 15kW, har de eksisterende luftkjølte datasentrene nådd taket av deres luftkonveksjonskjøling. Væskekjølingsteknologi, som gir sterkere kjøleevner, kan støtte høyere effekttettheter.

 

Sammenlignet med luftkjølingsløsninger, vil trenden mot væskekjøling drevet av AIGC og «Eastern Data, Western Computing»-initiativene uunngåelig føre til en økning i både volum og pris på markedet for datasentertemperaturkontroll. Den væskekjølte serverindustrien følger tre teknologiske ruter: kald plate, nedsenking og spraykjøling.Cold Plate Liquid Cooling innebærer en kjølemetode der kjølevæsken ikke kommer i direkte kontakt med serverens varmegenererende komponenter.

 

▲ Kaldplatekjøling

 

▲ Spray Liquid Cooling System

 

▲ Enfaset flytende kjøling

 

▲ To-fase kjøling

 

I stedet er de viktigste varmegenererende komponentene festet til en kald plate, med kjølevæsken som sirkulerer i den kalde platens interne væskekjølesystem for å fjerne varme. For å forbedre varmevekslingsevnen må varmevekslingsområdet maksimeres, noe som krever at den kalde platen festes så tett som mulig til overflaten av serverens varmegenererende komponenter. Uregelmessig utformede varmegenererende komponenter er vanskelige å avkjøle med denne metoden. Bare relativt regelmessige flis er egnet for kaldplatekjøling.

 

Dette utgjør et betydelig problem for kjøleløsninger for kjøleplater: omtrent 30 % av serverens varme, generert av andre komponenter som lagring, minne og strømforsyninger, krever fortsatt tradisjonell luftkjøling. Dette resulterer i at det er behov for to kjølesystemer som skal brukes samtidig i kjøleløsninger for flytende kjøleplater, noe som øker både kostnadene og selve systemets PUE. Den nåværende kaldplateløsningen er relativt moden, med et solid kommersielt grunnlag, og har allerede sett en rekke kommersielle anvendelser.

 

▲ Kaldplate flytende kjøleløsninger

 

Immersion Liquid Cooling refererer til fullstendig nedsenking av serverutstyr i kjølevæske, hvor kjøling oppnås gjennom direkte kontakt mellom kjølevæsken og de varmegenererende komponentene. I denne metoden er serverens varmegenererende komponenter helt nedsenket i kjølevæsken, noe som gir tilstrekkelig kontakt med kjølevæsken, som kontinuerlig bærer bort varmen som genereres, og derved avkjøler serveren. Nedsenkingskjøling gir høyere kjøleeffektivitet, med potensial til å øke strømtettheten per skap med over tre ganger. Det forventes å utgjøre mer enn 40 % av markedet innen 2025, med full nedsenking av væskekjølte servere som sannsynligvis vil bli en fremtidig teknologisk trend.

 

▲ Nedsenking av væskekjøling

 

Spray Cooling Liquid Cooling System er en direkte-kontakt væskekjøleteknologi designet for å presist spraye kjølevæske på de varmegenererende komponentene til servere. Kjølevæsken påføres direkte på de varmegenererende enhetene eller faste varmeledende materialer koblet til dem, enten ved tyngdekraft eller systemtrykk. Denne prosessen tillater varmeveksling for å avkjøle serveren. Under varmeveksling holdes kjølevæskenivået inne i serveren under de varmegenererende komponentene eller de faste varmeledende materialene som er koblet til dem. Systemet bruker eksterne varmevekslerenheter for å avkjøle og resirkulere kjølevæsken.

 

 

3. Markedslandskap for flytende kjøling

Som en avansert teknologi spenner væskekjøling over flere disipliner og felt, med høye tekniske barrierer.

Foreløpig er bruken av væskekjølingsteknologi blant innenlandske og internasjonale produsenter av datasenterinfrastruktur relativt lav, med få selskaper som mestrer denne teknologien.

 

Imidlertid har flere selskaper både nasjonalt og internasjonalt begynt å tilby tilpassede væskekjølingsløsninger til sine kunder, og noen teknologiselskaper bygger og distribuerer gradvis sine egne væskekjølte datasentre. Til tross for dette er bruksraten for væskekjølingsteknologi blant produsenter av datasenterinfrastruktur fortsatt lav, og markedet har ennå ikke sett fremveksten av dominerende ledere, noe som gjør konkurranselandskapet fortsatt usikkert.

 

I det kinesiske markedet har noen selskaper, gjennom år med teknologisk akkumulering og erfaring, vist betydelige tekniske og markedsmessige fordeler, og det forventes at ledende selskaper i fremtiden vil dominere markedet og danne et konkurranselandskap der store aktører har betydelige markedsandeler. .

 

4. Væskekjøling på brikkenivå

Å redusere avstanden mellom væskekjøleutstyr og kjernevarmekilder som flis er en viktig trend. I fremtiden forventes kjøling å utvikle seg fra romnivå, kabinettnivå og servernivå til brikkenivå, og oppnå bedre brikkekjøling gjennom direkte kontakt mellom kjølekomponenter og brikkeoverflaten. Væskekjølere sprer varme ved å flytte store mengder varme bort gjennom friksjonen mellom væskestrømmen og radiatorens indre overflate. Sammenlignet med konvensjonelle luftkjølesystemer kan væskekjøling forbedre kjøleeffektiviteten betydelig. For tiden er væskekjølingsteknologi hovedsakelig delt inn i indirekte og direkte typer.

 

I følge sisteSporing av markedet for halvårlig Liquid Cooling Server (andre halvdel av 2022).rapport publisert av International Data Corporation (IDC), nådde det kinesiske væskekjølingsservermarkedet 1,01 milliarder dollar i 2022, noe som representerer en år-til-år-vekst på 189,9 %. IDC spår at fra 2022 til 2027 vil den sammensatte årlige vekstraten for Kinas væskekjølingsservermarked nå 56,6 %, med markedsstørrelsen som forventes å nå 9,5 milliarder dollar innen 2027, noe som indikerer en lys fremtid for væskekjølingsindustrien!

 

 

▲ Prognosen for det væskekjølte servermarkedet i Kina fra 2023 til 2027