NVIDIA zaprezentowała platformę Vera Rubin wyposażoną w jednostki Groq LPU, które mają zrewolucjonizować rynek AI

Jakiś czas temu omawialiśmy na łamach PurePC system do obliczeń związanych ze sztuczną inteligencją Vera Rubin. Podczas wydarzenia GTC 2026, NVIDIA ogłosiła wprowadzenie do swojego ekosystemu AI dodatkowych układów Groq LPX (nie mylić z modelem LLM Grok od xAI). Rozwiązanie to ma umożliwić obsługę znacznie dłuższych kontekstów oraz przyspieszyć proces inferencji w szczególnie wymagających scenariuszach obliczeniowych.

NVIDIA zaprezentowała na GTC 2026 platformę Vera Rubin i Vera Rubin Ultra. Szafy Groq LPX mają zrewolucjonizować rynek sztucznej inteligencji i długość obsługiwanego kontekstu, osiągając 40 PB/s przepustowości pamięci SRAM.

NVIDIA Rosa Feynman - na targach GTC 2026 ogłoszono, że GPU wykorzystają 3D Die-Stacking oraz niestandardową pamięć HBM

System Vera Rubin, oprócz szaf z głównymi serwerami obliczeniowymi opartymi na GPU i CPU (Vera Rubin Superchip), obejmuje także infrastrukturę sieciową oraz dedykowane szafy Groq LPX. Każda z nich składa się z 32 modułów, z których każdy wyposażono w 8 układów Groq 3 LPU. Oznacza to, że pojedyncza szafa Groq LPX integruje łącznie 256 połączonych ze sobą układów LPU. Każdy układ Groq 3 oferuje 500 MB pamięci SRAM (wykorzystującej tę samą klasę architektury pamięci co cache w procesorach), przepustowość pamięci na poziomie 150 TB/s oraz przepustowość komunikacji między układami wynoszącą 2,5 TB/s. Warto podkreślić, że cała szafa Groq LPX posiada 128 GB pamięci SRAM, oferuje 640 TB/s przepustowości komunikacyjnej między chipami oraz robiące nie małe wrażenie 40 PB/s przepustowości pamięci. NVIDIA podaje, że łączna moc obliczeniowa inferencji AI w szafie Groq LPX osiąga 315 PFLOP-ów.

NVIDIA DLSS 5 - Firma prezentuje przyszłość grafiki komputerowej, bazującej na wykorzystaniu Neural Renderingu

Zastosowanie pamięci SRAM zapewnia niskie opóźnienia, szybkie przetwarzanie KV Cache i przyspiesza generowanie tokenów, co przekłada się na 35-krotny wzrost wydajności przy bardzo długich kontekstach modeli AI. LPU działają w ramach heterogenicznego pipeline’u razem z GPU Vera Rubin, gdzie GPU zajmuje się przetwarzaniem promptu i dużymi operacjami macierzowymi (prefill), a LPU odpowiadają za sekwencyjne generowanie tokenów (decode), co pozwala zachować wysoką efektywność energetyczną (jak na takie systemy) i niskie opóźnienia nawet przy milionach tokenów w kontekście. Dzięki temu system obsługuje wysoką współbieżność użytkowników, sprawdzając się w chatbotach i agentach AI, jednocześnie umożliwiając NVIDIA utrzymanie przewagi nad układami ASIC konkurencji, takimi jak Cerebras, poprzez integrację najlepszych rozwiązań z obu światów: ogromnej mocy obliczeniowej GPU i niskich opóźnień LPU.

Trzy przełomy Microna naraz, czyli masowa produkcja HBM4 36 GB 12H, Gen6 SSD i SOCAMM2 dla platformy NVIDIA Vera Rubin

Jensen Huang, CEO NVIDIA, zaprezentował na GTC 2026 platformę Vera Rubin Ultra, wprowadzającą całkowicie nowy układ montażu w szafach serwerowych. Tace będą ustawione pionowo zamiast poziomo, co pozwoli zwiększyć liczbę GPU w tej samej objętości oraz usprawnić systemy chłodzenia. Planowany Kyber NVL144 umożliwi umieszczenie 144 układów GPU w jednej szafie, a w połączeniu z podwojeniem liczby GPU i chipletów w pakietach ma zapewnić co najmniej na czterokrotnie wyższą wydajność niż Oberon NVL72, oparty na 72 GPU Rubin. Dodatkowo szafa Kyber zostanie wyposażona w nowy przełącznik NVLink 7. generacji, zachowujący przepustowość 3600 GB/s, ale pozwalający na obsługę większej liczby GPU. Nadto do systemu trafią karty sieciowe klasy SuperNIC - CX9 1600 G Ethernet, które przyspieszą komunikację całego ogromnego systemu sztucznej inteligencji.

Vera Rubin od 1:08:00 / Vera Rubin Ultra od 1:18:00