hbm3e

Rosnące zapotrzebowanie na wydajne pamięci wykorzystywane w systemach sztucznej inteligencji napędza konkurencję między największymi producentami. W centrum uwagi znalazły się nowe generacje modułów HBM, które stają się podstawą dla układów przetwarzających ogromne ilości danych. Firmy takie jak Samsung i Micron intensyfikują działania, by zabezpieczyć pozycję na globalnym rynku. Jakie strategie przyjmują i kto może zyskać przewagę?

Micron ogłasza współpracę z NVIDIA, dostarczając pamięci HBM3E i SOCAMM dla nowej generacji serwerów AI i centrów danych. HBM3E 12H 36GB została zoptymalizowana pod kątem NVIDIA GB300 Grace Blackwell, a HBM3E 8H 24GB będzie wspierać HGX B200 i GB200 NVL72. Dzięki 1,2 TB/s przepustowości nowe moduły zapewnią wyższą wydajność AI i HPC. Micron zapowiedział także LPDDR5X SOCAMM, nowy format pamięci serwerowej dla rozwiązań AI i edge computing.

Podczas konferencji GTC 2025 SK hynix zaprezentował 12-warstwową pamięć HBM3E oraz SOCAMM, nowy standard dla serwerów AI. Nowe moduły zapewnią 60% wyższą wydajność i ponad 2 TB/s przepustowości, wspierając rozwój nowej generacji AI. SK hynix ogłosił również, że masowa produkcja HBM4 ruszy w drugiej połowie 2025 roku, a technologia ta znajdzie zastosowanie w przyszłych układach NVIDIA Rubin.

Boom na sztuczną inteligencję oznacza także olbrzymie zapotrzebowanie na sprzęt do jej obsługi, a także na procesy i komponenty wykorzystywane do jego produkcji. Na szczycie tej listy znajduje się między innymi pamięć HBM3E. Jej głównymi dostawcami są firmy SK hynix, Micron oraz Samsung. W sieci pojawiły się informacje, według których ostatnie z wymienionych przedsiębiorstw wciąż ma problemy, by dostarczyć NVIDII pamięć o odpowiedniej jakości.

Konferencja od firmy AMD pod tytułem Advancing AI, która - jak sama nazwa wskazuje - skupiona była na rozwiązaniach stworzonych dla sztucznej inteligencji, jest już za nami. Czerwoni zaprezentowali kolejną (piątą) generację procesorów AMD EPYC, a także nowy akcelerator AMD Insinct MI325X. W bezpośrednim porównaniu ze swoim poprzednikiem może on liczyć głównie na większą pojemność pamięci, która przy okazji będzie szybsza. Zmianie uległ też zegar pamięci oraz pobór mocy.

Rynek sprzętu dedykowanego sztucznej inteligencji jest obecnie jednym z najbardziej zyskownych w całej branży nowych technologii. Kierowane są na niego pokaźne środki, co owocuje dynamicznym rozwojem. Szybki postęp dokonuje się także w przypadku pamięci wykorzystywanej w akceleratorach AI. Jednym z największych jej producentów jest firma SK hynix. Właśnie rozpoczęła ona masową produkcję pamięci HBM3E o najwyższej pojemności na rynku.

Jesteśmy świeżo po premierze procesorów z serii AMD Ryzen 9000, a wszystko wskazuje na to, że już wkrótce firma AMD zaprezentuje kolejne chipy. Mowa tu zarówno o jednostkach przeznaczonych do centrów danych, jak i układach z linii Strix Point, choć nie powinno zabraknąć nowości dotyczących segmentu sztucznej inteligencji. Dokładną datę nadchodzącego wydarzenia zdradził pewien informator i wydaje się ona zgodna z wcześniejszymi doniesieniami.

Innowacyjność w branży nowych technologii sprawia, że mamy do dyspozycji coraz wydajniejszy sprzęt, który w dodatku cechuje się lepszą efektywnością energetyczną. Także rynek pamięci HBM podlega tym przekształceniom. Firma Samsung planuje już wkrótce wprowadzić do swojej oferty rozwiązania sprzętowe, które zakładają umieszczenie chipów pamięci bezpośrednio na procesorze lub układzie graficznym. Takie podejście będzie miało szereg zalet.

Samsung na rynku pamięci operacyjnej HBM nieco odstaje od konkurencji, która obecnie cieszy się pełną masową produkcją chipów HBM3E. Oliwy do ognia dolewają problemy związane z nieprzejściem testów wewnętrznych NVIDIA, co na ten moment wyklucza możliwość dostarczania chipów pamięci dla akceleratorów graficznych B200 i H200. Sytuacja jest dynamiczna, ponieważ dotychczasowy szef działu półprzewodników Samsunga pożegnał się ze stanowiskiem.

NVIDIA zaprezentowała podczas GTC 2024 pierwszy układ graficzny z rodziny Blackwell. B200 to rozwiązanie przeznaczone na rynek sztucznej inteligencji. Jedną z cech sprzętu będzie niezwykle szybka pamięć HBM3e. Firma SK hynix ogłosiła właśnie uruchomienie jej produkcji masowej. Dużą część zarezerwowała NVIDIA z myślą o nowych akceleratorach. Warto przy tym odnotować, że SK hynix nie jest pierwszym podmiotem, który rozpoczął produkcję tej pamięci.

Mniej więcej w podobnym okresie czasu, dwa lata temu, NVIDIA zaprezentowała pierwszy akcelerator graficzny, oparty na architekturze Hopper. Mowa o układzie NVIDIA H100, który dzisiaj jest jednym z kluczowych czynników wpływających na wyniki finansowe przedsiębiorstwa. Po dwóch latach od ujawnienia architektury Hopper, przyszła pora na prezentację jego następcy. Mowa o generacji Blackwell, która tym razem została przygotowana zarówno pod zastosowania profesjonalne, jak również rozwiązania dla graczy....

W tym roku na rynku powinny zadebiutować układy NVIDIA H200. Będzie to następca modelu H100, który zdobył bardzo dużą popularność wśród podmiotów zajmujących się treningiem sztucznej inteligencji. Sprzęt kolejnej generacji będzie wyposażony w szybką pamięć HBM3e. Firma Micron ogłosiła właśnie rozpoczęcie masowej produkcji chipów o pojemności 24 GB. W niedalekiej przyszłości ruszy także produkcja chipów 36 GB.

Sztuczna inteligencja jest ciągle w trendzie wznoszącym. To między innymi z tego powodu firmy zajmujące się produkcją komponentów, wykorzystywanych w szeroko pojętym segmencie centrów danych, nie mogą narzekać na brak zamówień. Dotyczy to również pamięci HBM, którą produkuje między innymi koreański SK hynix. Okazuje się, że także w tym przypadku klienci muszą ustawiać się w długie kolejki i nic nie wskazuje na to, że w najbliższej przyszłości to się zmieni.

W przyszłym roku NVIDIA wprowadzi na rynek akceleratory H200. Oczywiście cały proces wymaga odpowiednich przygotowań. Ich częścią jest zamówienie wystarczającej liczby podzespołów. Dotyczy to także pamięci HBM3e, którą omawiana konstrukcja będzie wykorzystywała. Koreańskie źródła prasowe donoszą, że amerykańska firma dokonała już odpowiednich zakupów w ramach przedsprzedaży. Ma to zapewnić większą podaż układów w przyszłości.

Plany NVIDII na przyszły rok zakładają debiut superchipów GH200 w wariancie, który będzie opierał się na wykorzystaniu pamięci HBM3E. Firma SK hynix ogłosiła, że ukończyła zasadniczą część prac nad nową pamięcią i rozpoczęła rozsyłanie próbek do swoich klientów. Rozpoczęcie produkcji masowej jest spodziewane w pierwszej połowie 2024 roku, co potwierdza, że superchipy GH200 z HBM3E zadebiutują w jego drugiej połowie.

NVIDIA GH200 to rozwiązanie przeznaczone przede wszystkim do budowy superkomputerów. Wśród potencjalnych zastosowań jest generatywna sztuczna inteligencja, której algorytmy będą w stanie wykorzystać w pełni potencjał superchipów Grace Hopper. Podczas konferencji SIGGRAPH NVIDIA zapowiedziała nową wersję układów. Główna różnica sprowadza się do zastosowania pamięci HBM3e, która jest obecnie uważana za najszybszą na świecie.

Pamięć typu HBM3 znajduje zastosowanie przede wszystkim w zadaniach związanych ze sztuczną inteligencją. Zapotrzebowanie na tego typu sprzęt wzrasta i nieustannie dokonuje się postęp, dzięki któremu do odbiorców trafią coraz wydajniejsze rozwiązania sprzętowe. Przed pojawieniem się HBM4, SK hynix planuje dostarczyć na rynek pamięć HBM3E, która zaoferuje znaczący wzrost wydajności w porównaniu do swojego starszego odpowiednika.