SK hynix rozpoczął masową produkcję 12-warstwowej pamięci HBM3E o rekordowej pojemności na rynku

Rynek sprzętu dedykowanego sztucznej inteligencji jest obecnie jednym z najbardziej zyskownych w całej branży nowych technologii. Kierowane są na niego pokaźne środki, co owocuje dynamicznym rozwojem. Szybki postęp dokonuje się także w przypadku pamięci wykorzystywanej w akceleratorach AI. Jednym z największych jej producentów jest firma SK hynix. Właśnie rozpoczęła ona masową produkcję pamięci HBM3E o najwyższej pojemności na rynku.

Niebawem do partnerów firmy SK hynix trafią 12-warstwowe pamięci HBM3E o rekordowej pojemności 36 GB. Moduły znajdą swoje zastosowanie przede wszystkim w akceleratorach dedykowanych sztucznej inteligencji.

Samsung pracuje nad technologią, która pozwoli umieścić pamięć HBM bezpośrednio na procesorze lub układzie graficznym

Nowa pamięć HBM3E od firmy SK hynix to pierwsze tego typu rozwiązanie na świecie. Mamy tutaj bowiem do czynienia z 12-warstwowymi modułami o pojemności 36 GB. Zaledwie pół roku temu na rynek trafiła 8-warstwowa pamięć koreańskiej firmy, co pokazuje, jak szybki jest postęp w tej branży. Jak przekonuje SK hynix, nowe moduły HBM3E oferują topowe parametry we wszystkich kluczowych obszarach funkcjonowania sztucznej inteligencji, czyli szybkości, pojemności i stabilności. Cechują się przepustowością 9,6 Gb/s, co jest najlepszym wynikiem w branży. Pojedynczy akcelerator wykorzystujący cztery moduły tej pamięci jest w stanie odczytać 35 razy na sekundę 70 mld parametrów modelu LLaMA 3 70B.

SK hynix podpisało ważną umowę ramową z TSMC na potrzeby badań i produkcji pamięci HBM4

Osiągnięcie rekordowej pojemności pamięci HBM3E było możliwe do osiągnięcia dzięki obecności 12 warstw chipów składających się z 3 GB DRAM. Wynik ten uzyskano zachowując identyczną grubość, jak w przypadku pamięci 8-warstwowej. Każdy chip DRAM jest bowiem 40% cieńszy od swojego poprzednika. Ułożono je wertykalnie za pomocą technologii TSV (Through-Silicon Via), która polega na tworzeniu pionowych połączeń elektrycznych pomiędzy chipami pamięci. Proces Advanced MR-MUF (Mass Reflow Molded Underfill) pozwolił zaś wyeliminowanie strukturalnych problemów wynikających z użycia cienkich chipów DRAM. Jak przekonuje SK hynix, nowy wariant pamięci HBM3E pozwala także na około 10% efektywniejsze rozpraszanie ciepła powstałego w wyniku jej pracy.