System chłodzenia serwera z NVIDIA GB300 NVL72 kosztuje tyle co dobre auto. Oto prawdziwa cena rewolucji AI w centrach danych

Era tradycyjnego chłodzenia powietrzem w centrach danych AI dobiega końca. Wraz z nadejściem potężnych akceleratorów graficznych, których TDP przekracza 1000 W, serwery zamieniają się w grzejniki. Najnowsza platforma NVIDIA Blackwell Ultra NVL72, superkomputer w jednej szafie, generuje ponad 100 kW ciepła. Taka moc obliczeniowa wymaga innowacyjnego, ale i szokująco kosztownego podejścia do chłodzenia. Jaka jest prawdziwa cena utrzymania w ryzach tej mocy?

Morgan Stanley wycenia komponenty chłodzące dla pojedynczego racka NVIDIA GB300 NVL72 na niemal 50 000 dolarów, a dla następcy Vera Rubin NVL144 koszt wzrośnie o kolejne 17 proc., czyli do ponad 55 000 USD.

Microsoft opracowuje techniki chłodzenia cieczą wewnątrz chipów, co może zapewnić trzykrotnie niższe temperatury

Morgan Stanley opublikował niedawno szczegółową wycenę komponentów termicznych dla systemów serwerowych NVIDII. Całkowita wartość układów chłodzących w pojedynczym racku GB300 NVL72 wynosi dokładnie 49 860 dolarów. Kwota robi wrażenie, ale staje się zrozumiała przy bliższym spojrzeniu na specyfikację. Każdy rack mieści 72 procesory graficzne Blackwell Ultra o TDP 1400 W każdy, co daje ponad 100 kW samego ciepła z GPU. Doliczyć trzeba jeszcze 36 procesorów Grace oraz moduły pamięci SOCAMM, a łączne szczytowe zapotrzebowanie energetyczne sięga 120-130 kW. Tradycyjne chłodzenie powietrzem przy takiej gęstości mocy jest niewykonalne. NVIDIA zastosowała zaawansowane chłodzenie cieczą bezpośrednio na chipach (direct-to-chip liquid cooling). System składa się z 18 modułów obliczeniowych (compute trays) oraz 9 modułów przełączników sieciowych. Morgan Stanley wycenia komponenty chłodzące dla pojedynczego modułu obliczeniowego na 2260 dolarów (łącznie 40 680 USD), a dla modułów przełączników po 1020 dolarów (9180 USD). Najdroższe są wysokowydajne płyty chłodzące.

Flagowa karta graficzna GeForce RTX 5090 FE uratowana przed zmarnowaniem. NVIDIA zaskakuje decyzją mimo winy użytkownika

Pomyślmy o chłodzeniu jak o systemie krwionośnym organizmu. Musi działać perfekcyjnie, dostarczając "zimną krew" i odprowadzając ciepło zanim dojdzie do przegrzania. Jak pisaliśmy wcześniej w kontekście problemów z rackami GB200, NVIDIA musiała modyfikować projekt swoich systemów właśnie z powodu niewystarczającego zarządzania termicznego. Morgan Stanley prognozuje, że nadchodząca platforma Vera Rubin NVL144, która zastąpi Blackwell w drugiej połowie 2026 roku, będzie wymagać jeszcze droższego chłodzenia. Koszt wzrośnie o około 17 proc. do 55 710 USD na rack. Platforma Vera Rubin zaoferuje 3,6 exaflopsów wydajności w precyzji FP4, czyli 3,3-krotny wzrost względem GB300 NVL72. Wraz ze wzrostem mocy obliczeniowej rośnie zapotrzebowanie energetyczne i ilość ciepła do odprowadzenia.

Chińczycy rozwiązali problem przegrzewania chipów. Microsoft i NVIDIA mogą zapomnieć o gigantycznych systemach chłodzenia

To symptom szerszego trendu w branży. Jak informowaliśmy, NVIDIA przeszła na agresywny, roczny cykl wydawniczy nowych architektur. Operatorzy centrów danych muszą stale adaptować infrastrukturę chłodzącą do coraz bardziej nagrzewających się układów. Rynek technologii chłodzenia dla centrów danych szacowany jest na 4,9 mld dolarów w 2024 roku, z prognozą wzrostu do 21,3 mld USD do 2030 roku. Dla operatorów te liczby oznaczają ogromną zmianę w planowaniu inwestycji. Gdy sam system termiczny kosztuje tyle co nowe auto, kalkulacja TCO wygląda zupełnie inaczej. Z drugiej strony, chłodzenie cieczą oferuje znaczące korzyści. NVIDIA podaje, że systemy GB200 NVL72 zapewniają nawet 300-krotnie większą efektywność wodną oraz do 25-krotnie wyższą energooszczędność względem tradycyjnych rozwiązań. To przekłada się na niższe koszty operacyjne i mniejszy ślad węglowy. Konkurencja jak na razie nie prezentuje rozwiązań o porównywalnej skali. AMD czy Intel również inwestują w chłodzenie cieczą, ale żadna firma nie osiągnęła takiego poziomu integracji rack-scale jak NVIDIA z platformami NVL. To daje zielonej firmie istotną przewagę wobec firm takich jak Microsoft, Google czy Amazon, którzy budują gigantyczne "fabryki AI" wymagające maksymalnej gęstości obliczeniowej.