SK hynix pokazał HBM4E 48 GB 12-Hi i 4 TB/s. Gęstszy stos ma przyspieszyć kolejną falę akceleratorów AI

Pamięci HBM nie są już dodatkiem do akceleratora. Dziś to one decydują, ile danych GPU jest w stanie przetworzyć bez „zadyszki” i jaką pojemność producent zmieści w tym samym pakiecie. SK hynix na Computex pokazał HBM4E, czyli 48 GB w stosie 12-Hi i deklarowane 4 TB/s przepustowości. Liczby wyglądają imponująco, ale ten segment ma swoją stałą cechę. Świetnie prezentuje się na targowych stoiskach, a później zderza się z uzyskami, temperaturą i kosztami produkcji.

SK hynix pokazuje, że w pamięciach dla akceleratorów AI wygrywa ten, kto upchnie więcej danych w mniejszym i nadal produkowalnym pakiecie.

SK hynix pokazuje iHBM. Chłodzenie przy interfejsie D2D PHY ma ograniczyć throttling pamięci HBM w akceleratorach AI

Według materiałów ze stoiska SK hynix. firma z Korei Południowej celuje w kości 32 Gb, przepustowość do 16 Gb/s na pin i pełne 4 TB/s dla stosu HBM4E 48 GB 12-Hi. Sedno tej zapowiedzi nie tkwi nawet w samym rekordzie, tylko w sposobie dojścia do niego. Taka sama pojemność jak w 16-warstwowym HBM4, ale przy niższym stosie. To ma znaczenie dla pakietowania, odprowadzania ciepła i miejsca wokół GPU. Samsung w komercyjnym HBM4 podaje dziś 11,7 Gb/s, do 13 Gb/s i 3,3 TB/s, a 48 GB odkłada na wariant 16-Hi. Micron z kolei masowo produkuje HBM4 36 GB 12H z przepustowością ponad 2,8 TB/s i dopiero próbuje tworzyć wersje 48 GB 16H.

Samsung rozpoczął wysyłkę próbek HBM4E do klientów. 48 GB na stos i do 3,6 TB/s dla akceleratorów AI

W dążeniu do tworzenia tych pamięci chodzi o akceleratory pokroju NVIDIA Vera Rubin i kolejne układy dla centrów danych, gdzie każdy wat, każdy milimetr pakietu i każdy procent uzysku bardzo się liczy. Jeśli SK hynix rzeczywiście dostarczy na rynek 48 GB w 12 warstwach, umocni przewagę, o której pisaliśmy już przy okazji pierwszych HBM4 tego producenta. Samsung nadrabia po potknięciach z HBM3E, Micron poprawia parametry, ale walka coraz mniej dotyczy jedynie szybkości, a coraz bardziej stabilnych dostaw. I właśnie tu HBM4E może rozstrzygnąć więcej niż prezentacje i zapowiedzi.