AMD Instinct MI300X cechuje się pokaźnym poborem mocy. Jest sporo wyższy niż w przypadku Instinct MI250X

Akcelerator graficzny AMD Instinct MI300X to zaprezentowany niedawno sprzęt do obsługi zadań powiązanych ze sztuczną inteligencją. Urządzenie AMD cechuje się potężną specyfikacją i może być groźnym konkurentem dla układu NVIDIA H100. Ma to jednak też swoją cenę. Jest nią w tym przypadku pobór mocy, który znacznie przekracza wartość charakterystyczną dla akceleratora Instinct MI250X. Nie implikuje to jednak gorszej efektywności energetycznej.

TDP zaprezentowanego kilka dni temu akceleratora graficznego AMD Instinct MI300X ma wynieść 750 W. Jest znacznie wyższa od najpotężniejszego przedstawiciela architektury CDNA 2.

AMD Instinct MI300A oraz Instinct MI300X - akceleratory graficzne CDNA 3 z maksymalnie 192 GB pamięci HBM3

Informacja pochodzi z oficjalnych materiałów AMD, ale zwrócił na nią uwagę użytkownik Twittera @AnhPhuH. Najnowszy akcelerator graficzny firmy, bazujący na architekturze CDNA 3, będzie cechował się TDP na poziomie 750 W. Jest to wartość bardzo znacząca, ale nie zadziwia ona, jeśli weźmiemy pod uwagę przeznaczenie urządzenia i jego wydajność. Dla porównania TDP flagowego akceleratora opartego na architekturze CDNA 2, czyli AMD Instinct MI250X wynosi 560 W. W przypadku NVIDIA H100 SXM jest to 700 W. Skala poboru mocy urządzeń używanych do obliczeń AI staje się doskonale widoczna, kiedy zastawimy ją z TDP topowych kart graficznych przeznaczonych na rynek konsumencki. Przykładowo, wartość ta w przypadku układu AMD Radeon RX 7900 XTX wynosi "zaledwie" 355 W. NVIDIA GeForce RTX 4090 to z kolei 450 W.

AMD Instinct MI250X oraz EPYC Milan-X - modułowe GPU oraz serwerowe procesory z pamięcią 3D V-Cache już oficjalnie

Nie zmienia to jednak faktu, że AMD Instinct MI300X jest sprzętem o najwyższym TDP spośród wszystkich rozwiązań o tym formacie. Firma chwali się jednak, że zaoferuje on topową wydajność w zadaniach powiązanych z generatywną sztuczną inteligencją i dużych modelach językowych (LLM). Urządzenie AMD składa się z 12 chipletów i 153 mld tranzystorów. Zaoferuje 192 GB pamięci HBM3 o przepustowości 5,2 TB/s. Pomimo wysokiego TDP, sprzęt będzie bardziej efektywny energetycznie niż Instinct MI250X, jeśli weźmiemy pod uwagę jego wydajność. Rynek z pewnością sporo zyska na konkurencji pomiędzy producentami, także w segmencie AI.

One thing AMD didn't cover in the keynote:
MI300X (192GB HBM3, OAM Module) TBP is 750W.

Compared to last gen, MI250X TBP is only 500-560W. pic.twitter.com/0YJaFf3vB3

— Hoang Anh Phu (@AnhPhuH) June 15, 2023