Ang pamamahala ng init sa mga sentro ng datos ay tumigil na sa pagiging isang simpleng teknikal na detalye at naging isang ang gitnang aksis na tumutukoy sa posibilidad na mabuhay ng Artipisyal na Katalinuhan. Sa pag-usbong ng generative AI, nakakakita tayo ng mga rack na ang densidad ng kuryente ay lumalagpas sa 50 kW, na nagiging dahilan upang ang tradisyonal na air conditioning ay maging hindi sapat at ganap na hindi magagawa. Hindi ito isang mabagal na pagbabago, kundi isang biglaang paglipat sa likidong paglamig direkta sa processor, na hindi na isang eksperimento sa laboratoryo, kundi ang batayan ng anumang instalasyon na gustong manatiling mapagkumpitensya.
Sa bagong senaryo na ito, ang konsepto ng pagpapalamig ng mainit na tubigAng paggamit ng mga sistema ng pagpapalamig kung saan pumapasok ang coolant sa temperaturang higit sa 40 o kahit 45°C ay nagpapabago sa disenyo ng data center. Hindi lamang ito usapin ng pagpapalit ng coolant; ito ay isang pangunahing pagbabago. muling pag-iisip ng arkitekturang elektrikal at mga sistema ng distribusyon. Sa kasalukuyan, ang tagumpay ay hindi lamang nasusukat sa PUE, kundi sa pamamagitan ng pagsusuri kung gaano karaming tunay na lakas ng pag-compute ang maaaring makuha mula sa bawat kilowatt na konektado sa electrical grid, na ginagawang mahalaga ang thermal efficiency. Puro at simpleng kakayahang kumita para sa negosyo.
Ang teknikal na hakbang: Bakit gagamit ng mainit na tubig?
Sa unang tingin, ang mga cooling chips na may 45°C na tubig ay parang kakaiba, parang paggamit ng tubig sa hot tub, ngunit dito mismo nakasalalay ang mahika ng kahusayan. Simple lang ang lohika: mas mataas ang temperatura ng umiikot na likido, Mas madaling ilabas ang init papunta sa labas nang hindi kinakailangang gumamit ng mga compressor o chiller na kumokonsumo ng malaking halaga ng enerhiya. Nagbibigay-daan ito sa mga data center na gamitin ang mga closed-loop dry chiller, halos inaalis ang pagdepende sa evaporative cooling at binabawasan ang konsumo ng tubig sa halos zero sa mga kanais-nais na klima.
Para gumana ito, ang mga sumusunod ay mahalaga: mga advanced na cold plate na may panloob na microstructureAng mga bahaging ito na may mataas na katumpakan ay nagpapahintulot sa 80% hanggang 90% ng init na direktang makuha sa GPU o CPU. Kung ang motherboard ay pangkaraniwan lamang, ang sistema ay mabibigo; kung ito ay mataas ang kalidad, ang init ay maaaring pamahalaan sa antas ng chip nang napakaepektibo kaya ang badyet ng enerhiya na dating ginagastos sa pagpapalamig ng hangin ay maaari na ngayong i-redirect. i-redirect para paganahin ang mas maraming GPUIto ay isinasalin sa isang pagtaas sa kapangyarihan ng pag-compute at naaayon sa rebolusyon ng thermal hardware aktwal na.
Mga kritikal na bahagi: CDU at arkitektura ng network
Ang puso ng sistemang ito ay ang mga Refrigerant Distribution Unit o Mga Smart CDUAng mga yunit na ito ay hindi lamang nagpapagalaw sa likido, kundi gumaganap din bilang utak na nag-uugnay sa paglamig kasama ng arkitekturang elektrikal. Kapag ang parehong sistema ay dinisenyo nang magkasama, ang isang Mas mataas na pagiging maaasahan mula sa chip patungo sa networkpinipigilan ang CDU na maging isang hadlang sa operasyon.
- Mga Malamig na Plato: Dinisenyo upang pangasiwaan ang mga thermal output hanggang 1.500 W, tugma sa NVIDIA, AMD o Intel silicon.
- Mga Matalinong CDU: Pinamamahalaan nila ang mga rate ng daloy at kapasidad mula 105 kW hanggang 2,3 MW.
- Mga manifold ng rack: Mga kolektor na gawa sa hindi kinakalawang na asero na tinitiyak na ang daloy sa pagitan ng mga plato at ng CDU ay maayos at walang tagas.
- Mga Heat Exchanger ng Pinto sa Likod (RDHx): Mga solusyon na nag-aalis ng init gamit ang likidong pinalamig na hangin na may kapasidad na hanggang 75 kW.
Ang pagpapatupad ng mga teknolohiyang ito ay nagbibigay-daan sa paglamig ng likido hanggang 3.000 beses na mas epektibo kaysa sa hangin upang makuha ang enerhiyang thermal. Bukod pa rito, sa pamamagitan ng pagbabawas ng ingay at mga emisyon ng carbon, nalilikha ang mas napapanatiling at mas ligtas na mga kapaligiran sa pagpapatakbo, na binabawasan ang pagdepende sa mabibigat na imprastraktura tulad ng mga CRAH o tradisyonal na mga condenser.
Epekto sa ekonomiya at ang pangitain ng "Mga Pabrika ng AI"
Mula sa pagtingin natin sa data center bilang isang malamig na silid na puno ng mga server, lilipat na tayo sa pag-unawa rito bilang isang na-optimize na plantang pang-industriyaAng konseptong ito ng "AI factory" ay naglalayong i-maximize ang produksyon ng token at ang pagsasanay ng malalaking modelo. Ayon sa datos ng industriya, ang integrasyon ng advanced liquid cooling ay maaaring kumatawan sa isang pagtitipid ng enerhiya sa pagitan ng 20% ​​at 40%, na direktang nakakaapekto sa pahayag ng tubo at pagkalugi.
Ang estratehiya ng mga higanteng tulad ng NVIDIA, kasama ang kanilang mga sangguniang plataporma tulad ng DSX at ang henerasyong Rubin, ay tumutukoy sa isang 100% imprastraktura na pinapalamig ng likidoKabilang dito ang ganap na pag-aalis ng mga internal fan, pagsasama ng networking, computing, at kuryente sa iisang ecosystem. Sa pamamagitan ng pag-optimize sa thermal design, posibleng makamit ang hanggang [percentage missing]. 33% na mas mataas na output sa pagkalkula bawat koneksyon sa kuryente, na nagpapahintulot sa mas maraming kuryente na maimpake sa mas kaunting metro kuwadrado.
Bagama't tila ito ay isang lunas, ang paglipat mula sa isang mahusay na naka-tune na air cooling system patungo sa isang liquid cooling system ay may kasamang mga panganib sa pagpapatakbo at malaking komplikasyon sa integrasyon. Gayunpaman, kapag ang mga rack ay lumampas sa 50 kW, Hindi na opsyonal ang paglamig gamit ang likidoHindi na ito isang luho para sa HPC o scientific computing, kundi isang kailangang-kailangan na pangangailangan upang mapanatili ang workload ng Large Language Models (LLM) nang hindi dumaranas ng pagkasira ang kagamitan dahil sa sobrang pag-init o pagbawas ng kapaki-pakinabang na buhay nito.