De snelle groei van AI-workloads en high performance computing (HPC) stelt steeds hogere eisen aan datacenters. Toepassingen zoals deep learning, generatieve AI en complexe simulaties in bijvoorbeeld wetenschappelijk en industrieel onderzoek vragen om steeds meer rekenkracht en produceren daarbij veel warmte.
Immersion cooling en liquid cooling worden daarom steeds vaker ingezet als efficiënte en duurzame koelmethoden.
Waarom AI en HPC nieuwe koelmethoden vereisen
De complexiteit en schaal van AI- en HPC-modellen nemen snel toe. Dit brengt een hogere warmtelast met zich mee, waardoor koeling een belangrijke factor wordt in de prestaties en betrouwbaarheid van de IT-infrastructuur.
- Hoge warmteproductie door intensieve berekeningen: AI-workloads kunnen tot 10 keer meer warmte genereren dan traditionele servers, wat extra eisen stelt aan koeling.
- Toenemend energieverbruik door krachtige hardware: AI-modellen draaien op gespecialiseerde hardware zoals NVIDIA’s DGX B200 en Google’s TPU’s, die tot wel 700W per unit warmte produceren.
- AI-trainingen en HPC-simulaties vereisen langdurige rekenkracht op hoge intensiteit, met plotselinge piekbelastingen bij het verwerken van grote datasets.
Deze ontwikkelingen maken luchtkoeling steeds minder effectief. Immersion cooling en liquid cooling bieden een efficiëntere warmteafvoer, waardoor AI-modellen en HPC-workloads optimaal blijven presteren.
Immersion cooling: optimale warmteafvoer voor AI-workloads
Bij immersion cooling worden servers volledig ondergedompeld in een niet-geleidende vloeistof. Deze methode voert warmte veel efficiënter af dan luchtkoeling, waardoor de temperatuur stabiel blijft en de hardware langdurig op hoog niveau functioneert.
Voordelen van immersion cooling voor AI en HPC
- Hogere verwerkingscapaciteit per rack: Meer hardware per vierkante meter zonder risico op oververhitting.
- Optimale prestaties zonder throttling: AI-chips blijven binnen de gewenste temperatuurrange en kunnen op hoge kloksnelheid blijven functioneren door effectieve afvoer van de warmte.
- Efficiënter energiegebruik: Warmteafvoer via vloeistof is veel effectiever dan lucht, wat leidt tot energiebesparing.
- Geschikt voor restwarmtebenutting: Afgevoerde warmte kan worden hergebruikt, bijvoorbeeld in stadsverwarming zoals in het toekomstige restwarmteproject van NorthC in Rotterdam Zestienhoven.
Liquid cooling: directe koeling van AI- en HPC-hardware
Liquid cooling is een alternatieve methode waarbij koelplaten en leidingen met vloeistof de warmte direct afvoeren van kritische componenten zoals CPU’s en GPU’s. Dit kan standalone worden toegepast of worden gecombineerd met andere koelmethoden.
Voordelen van liquid cooling voor AI en HPC
- Directe warmteafvoer bij de bron: Koeling gebeurt direct op CPU’s en GPU’s, waardoor deze binnen de optimale temperatuurrange blijven en zonder throttling op maximale prestaties kunnen draaien.
- Compatibel met bestaande IT-infrastructuur: Kan zonder grote aanpassingen in traditionele serveromgevingen worden geïntegreerd.
- Flexibele inzetbaarheid: Liquid cooling kan worden gecombineerd met luchtkoeling of immersion cooling.
- Lager energieverbruik: Efficiëntere koeling vermindert het stroomverbruik, wat kan bijdragen aan lagere operationele kosten.
Wat is het verschil tussen liquid cooling en immersion cooling?
Hoewel beide technologieën vloeistof gebruiken in plaats van lucht om warmte af te voeren, verschillen ze in implementatie en efficiëntie.
Immersion Cooling
- Koelmethode: Servers worden volledig ondergedompeld in een niet-geleidende vloeistof, waardoor warmte direct en uniform wordt afgevoerd.
- Integratie: Vereist een herontwerp van de infrastructuur.
- Efficiëntie: Biedt een efficiënte warmteafvoer, vooral in twee-fase systemen (zonder tussenkomst van koelmachines) waar warmteabsorptie en -afgifte vrijwel direct plaatsvinden.
- Onderhoud: Kan complexer zijn vanwege de noodzaak om apparatuur uit de vloeistof te halen voor inspectie of reparatie.
Liquid Cooling
- Koelmethode: Vloeistof wordt door leidingen en koelplaten geleid om warmte direct van componenten zoals CPU’s en GPU’s af te voeren.
- Integratie: Kan worden geïntegreerd in bestaande serverarchitecturen met minimale aanpassingen.
- Efficiëntie: Effectiever dan luchtkoeling, maar de efficiëntie kan variëren afhankelijk van de kwaliteit van pompen, de keuze van de vloeistof en het ontwerp van warmtewisselaars.
- Onderhoud: Vergt regelmatig onderhoud om lekkages te voorkomen en de prestaties te behouden.
De toekomst van duurzame en efficiënte AI-datacenters
AI- en HPC-workloads stellen steeds hogere eisen aan datacenterkoeling. Waar luchtkoeling nu nog vaak volstaat, vraagt de groeiende vermogensdichtheid van onder andere AI-hardware om efficiëntere oplossingen. Immersion cooling en liquid cooling bieden betere prestaties, energiebesparing en een duurzamere infrastructuur.
Bij NorthC bereiden we onze datacenters actief voor op deze ontwikkelingen. Een goed voorbeeld is onze regio Rotterdam, waar we proactief uitbreiden en investeren in AI-ready faciliteiten. Met schaalbare capaciteit en geavanceerde koeltechnieken bieden we organisaties de ruimte en flexibiliteit om te groeien.
Wilt u meer tips, nieuws en kennisupdates van ons ontvangen?
