Morgan Stanley

Kiedy laboratorium AI potrzebuje ogromnej mocy obliczeniowej, rachunek za infrastrukturę sięga dziesiątek miliardów dolarów. Anthropic zabezpiecza kolejne zasoby obliczeniowe, a Broadcom dostarcza układy i uczestniczy w organizacji finansowania. Najnowsza transakcja z udziałem trzech banków i Blackstone opiewa na 63 mld dolarów. Pieniądze posłużą do zakupu akceleratorów i sprzętu sieciowego, a te zostaną wydzierżawione Anthropic'owi.

Ceny pamięci komputerowych znów mocno rosną. Samsung, SK Hynix i Micron zwiększają produkcję HBM dla akceleratorów, ograniczając jednocześnie podaż układów wykorzystywanych w zwykłych komputerach i starszych serwerach. Najnowsza analiza Morgan Stanley pokazuje, że presja cenowa będzie się nasilać. DDR4 i SLC NAND mogą w najbliższych miesiącach podrożeć znacznie bardziej, niż wcześniej zakładano, a drożeją także moduły DDR5.

Kiedy NVIDIA prezentowała swój system sztucznej inteligencji Vera Rubin, wielu entuzjastów było pod dużym wrażeniem poziomu integracji i zaawansowania tych serwerów. Od początku było jasne, że to rozwiązanie będzie niezwykle kosztowne, jednak do tej pory brakowało rzetelnych szacunków jego ceny, a sama NVIDIA takich danych nie ujawnia. Niedawno jednak pojawiła się analiza Morgan Stanley Research, która oszacowała te koszty i są one astronomiczne.

Era tradycyjnego chłodzenia powietrzem w centrach danych AI dobiega końca. Wraz z nadejściem potężnych akceleratorów graficznych, których TDP przekracza 1000 W, serwery zamieniają się w grzejniki. Najnowsza platforma NVIDIA Blackwell Ultra NVL72, superkomputer w jednej szafie, generuje ponad 100 kW ciepła. Taka moc obliczeniowa wymaga innowacyjnego, ale i szokująco kosztownego podejścia do chłodzenia. Jaka jest prawdziwa cena utrzymania w ryzach tej mocy?