Microsoft ND H100 v5 - nowe maszyny wirtualne do obsługi algorytmów AI już wkrótce z akceleratorami NVIDIA H100

Technologie bazujące na wykorzystaniu algorytmów sztucznej inteligencji stają się coraz bardziej popularne. To wymaga zapewnienia odpowiedniego zaplecza technologicznego. Firma Microsoft właśnie ujawniła swoją nową generację maszyn wirtualnych o nazwie ND H100 v5, które będą napędzane przez najnowsze akceleratory graficzne NVIDIA H100. Ma to zapewnić w przyszłości odpowiednie zaplecze dla procesów uczenia maszynowego.

Microsoft ogłosił, że jego najnowsze maszyny wirtualne będą już wkrótce napędzane przez układy graficzne NVIDIA H100. Ma to znacząco wspomóc rozwój technologii opartych na algorytmach sztucznej inteligencji.

Serwerowe procesory Intel Sapphire Rapids zasilą stacje NVIDIA DGX H100, wyposażone w akceleratory graficzne Hopper

Poprzednia generacja sprzętu bazowała na starszych urządzeniach NVIDIA A100. To właśnie one zostały wykorzystane do procesu uczenia maszynowego usługi ChatGPT. Nowo zapowiedziane platformy będą oferowały od ośmiu do nawet kilku tysięcy jednostek GPU NVIDII najnowszej generacji, w zależności od zapotrzebowania klientów. Ma to zapewnić znacząco wyższą wydajność procesu uczenia. GPU będą połączone za pomocą NVSwitch i NVLink 4.0. Każdy z nich zapewni przepustowość 400 Gb/s za pośrednictwem NVIDIA Quantum-2 CX7 InfiniBand. Jest to siódma generacja architektury umożliwiającej w uproszczeniu obliczenia o wysokiej wydajności (High-Performance Computing). Charakteryzuje się bardzo dobrą przepustowością i niskimi opóźnieniami podczas komunikacji pomiędzy węzłami obliczeniowymi. Akceleratory graficzne będą działały w oparciu o interfejs PCIe 5.0 o transferze danych sięgającym 64 GB/s. Nowa platforma Microsoftu wykorzysta także procesory Intel Xeon Scalable czwartej generacji oraz 16-kanałową pamięć DDR5 DIMM o taktowaniu 4800 MHz.

Sztuczna Inteligencja podbija świat. Jak będzie wyglądać nasza przyszłość? Zastąpienie czy jednak współpraca?

Dostęp do najnowszych maszyn wirtualnych ma być w zasięgu możliwości finansowych szerokich grup podmiotów. Ich głównym przeznaczeniem jest rozwój technologii bazujących na uczeniu maszynowym i jak przekonuje przedstawiciel NVIDII, powinno to zaowocować powstaniem nowych generacji aplikacji oraz usług bazujących na mechanizmach sztucznej inteligencji. Na chwilę obecną maszyny ND H100 v5 nie są jeszcze oficjalnie dostępne, ale w przyszłości mają stać się częścią standardowej oferty Microsoft Azure. Prawdopodobnie firma z Redmond będzie chciała je wykorzystać także do rozwoju własnych usług opartych na AI, czyli wyszukiwarki Bing, przeglądarki Edge czy oprogramowania Microsoft Dynamics 365.