NVIDIA DGX H100 - profesjonalne stacje obliczeniowe będą korzystać z serwerowych procesorów Intel Sapphire Rapids

Kilka miesięcy temu NVIDIA ogłosiła nową architekturę dla graficznych akceleratorów - Hopper. Przynosi on spory wzrost wydajności, głównie w obliczeniach opartych na sztucznej inteligencji. Ponadto warianty układu NVIDIA H100 dla obudów SXM5 wyposażone są w najszybszą obecnie pamięć typu HBM3. Na bazie wspomnianych akceleratorów producent tworzy również profesjonalne stacje obliczeniowe - NVIDIA DGX. Firma potwierdziła w końcu, z jakich procesorów skorzysta.

Profesjonalne zestawy NVIDIA DGX H100, korzystające z najnowszych akceleratorów NVIDIA H100 (Hopper), będą oferowały również serwerowe procesory Intel Sapphire Rapids. Dla porównania stacje DGX A100 (Ampere) wykorzystywały układy AMD EPYC Rome.

Premiera akceleratora NVIDIA H100 Hopper - Litografia TSMC 4 nm, 80 GB pamięci HBM3 i TDP do 700 W

Podczas konferencji BofA Securities 2022 Global Technology, Jensen Huang potwierdził kolejny szczegół w temacie specyfikacji stacji NVIDIA DGX H100. Nowe jednostki obliczeniowe będą wyposażone nie tylko w 8 akceleratorów H100, ale także procesory Intel Sapphire Rapids. To najnowsza generacja Intela, wykorzystująca maksymalnie 56 rdzeni Performance (Golden Cove). Niestety dyrektor generalny NVIDII nie zdradził jakie dokładnie modele Sapphire Rapids znajdą swoje zastosowanie w stacji DGX H100. Biorąc pod uwagę, że w przypadku poprzednika wykorzystano 64-rdzeniowe układy AMD EPYC, to możemy przypuszczać że do najnowszej stacji również zostaną użyte topowe jednostki.

NVIDIA H100 80 GB PCIe w cenie kawalerki. Można już składać zamówienia na nowy układ oparty na architekturze Hopper

Stacja NVIDIA DGX H100 wykorzystuje układy H100 w wariancie SXM5. Łącznie do dyspozycji użytkownicy otrzymają 640 GB pamięci HBM3. NVIDIA tutaj również potwierdziła, że za wyposażenie akceleratorów w najszybszą obecnie pamięć odpowiadać będzie firma Micron, która jako pierwsza wdrożyła masową produkcję kostek HBM3. Łączna przepustowość pamięci w jednej stacji DGX H100 sięga imponujących 24 TB/s. Z kolei wybór procesorów Intel Sapphire Rapids jest bardzo interesujący. Huang bardzo sobie chwali doskonałą wydajność jednowątkową nowych procesorów Xeon. Nie wiemy czy są również inne powody wyboru Intela, ale wygląda na to, że NVIDII zależy na jak najwyższej wydajności jednego wątku. W tym wypadku nowa architektura Intela wypada lepiej na tle rozwiązań AMD.