NVIDIA Rubin

Podczas konferencji Advancing AI, firma AMD skupiała się na możliwościach procesorów serwerowych EPYC 6. generacji oraz akceleratorze graficznym Instinct MI455X. Ten ostatni to topowa konstrukcja, wykorzystująca architekturę CDNA 5 oraz zoptymalizowana pod obliczenia w niskiej precyzji (jak FP4 czy FP8). Jest to również układ oferujący największą ilość pamięci, bo aż 432 GB typu HBM4. W generacji CDNA 5 pojawi się także inny akcelerator - Instinct MI430X.

Pamięci HBM nie są już dodatkiem do akceleratora. Dziś to one decydują, ile danych GPU jest w stanie przetworzyć bez „zadyszki” i jaką pojemność producent zmieści w tym samym pakiecie. SK hynix na Computex pokazał HBM4E, czyli 48 GB w stosie 12-Hi i deklarowane 4 TB/s przepustowości. Liczby wyglądają imponująco, ale ten segment ma swoją stałą cechę. Świetnie prezentuje się na targowych stoiskach, a później zderza się z uzyskami, temperaturą i kosztami produkcji.

Wyścig o najpotężniejsze pamięci dla akceleratorów AI przyspiesza z każdym miesiącem. Samsung Electronics właśnie ujawnił ambitne plany dotyczące siódmej generacji pamięci typu HBM. W obecnej generacji HBM3E zmagał się z problemami kwalifikacyjnymi, tym razem chce odwrócić losy rywalizacji i jako pierwszy publicznie zaprezentował docelowe parametry HBM4E. Liczby robią wrażenie, a stawka jest wysoka, mają się one znaleźć w akceleratorach NVIDII z rodziny Rubin.