grace blackwell

NVIDIA DGX Spark to kompaktowy komputer przeznaczony do zadań związanych ze sztuczną inteligencją, który w pracach deweloperskich nad dużymi modelami okazuje się niezwykle wartościowy. Ta niewielka i cicha jednostka, oferująca bardzo wysoką moc obliczeniową, umożliwia uruchamianie, prowadzenie szkolenia i fine-tuning dużych modeli. Od 12 lutego jej funkcjonalność znacząco wzrosła, a to dzięki nowej aktualizacji od NVIDII.

NVIDIA DGX Spark to mini PC wyposażony w układ GB10 Grace Blackwell Superchip, osiągający wydajność 1 petaflopa. Urządzenie pełni funkcję kompaktowej, ale potężnej stacji roboczej do pracy ze sztuczną inteligencją i potrafi lokalnie obsłużyć modele o 200 mld parametrów. Niedawno największy producent GPU na świecie wydał aktualizację systemu do wersji DGX OS 7.3.1, która wprowadza kilka zmian i rozwiązuje pewne problemy.

Swego czasu NVIDIA zaprezentowała niewielki zestaw komputerowy DGX Spark, oparty na autorskim układzie NVIDIA GB10 Grace Blackwell, wykorzystujący zarówno rdzenie ARM (część CPU) jak i układ graficzny Blackwell, którego budowa (w kontekście liczby jednostek) jest porównywalna z chipem GB205 oraz układem GeForce RTX 5070. Później wielu partnerów NVIDII zaprezentowało podobne rozwiązania, także oparte na układzie GB10 Grace Blackwell. Jednym z najnowszych zapowiedzi jest komputer MSI EdgeXpert MS-C931.

Wyścig zbrojeń w dziedzinie AI przypomina nową gorączkę złota, gdzie zamiast kilofów używa się krzemowych akceleratorów, a stawką jest cyfrowa dominacja nad światem. Najwięksi gracze, tacy jak OpenAI, Google czy Meta, prześcigają się w budowie coraz potężniejszych modeli językowych, a do tego potrzeba mocy obliczeniowej na niewyobrażalną dotąd skalę. Właśnie byliśmy świadkami wydarzenia, które może na nowo ustawić pionki na tej szachownicy.

NVIDIA, lider w dziedzinie akceleratorów AI, przedstawiła ambitne plany dotyczące nowego segmentu produktów przeznaczonych dla indywidualnych deweloperów i naukowców. Kompaktowe systemy AI mają potencjał zrewolucjonizowania sposobu pracy nad projektami sztucznej inteligencji, eliminując konieczność korzystania z kosztownych zasobów chmurowych i centrów danych. Planowana na lipiec 2025 premiera jednego z nich jednak się nie odbyła.

Rywalizacja w świecie sztucznej inteligencji nabiera tempa, a nowe technologie zmieniają układ sił między globalnymi graczami. Huawei, chiński gigant technologiczny, zaprezentował klaster AI, który wzbudził zainteresowanie nawet wśród konkurencji. Sam CEO NVIDII, Jensen Huang, przyznał, że rozwiązania Huaweia dorównują ich własnym chipom, co może zwiastować przełom na rynku. Warto przyjrzeć się, co oznacza to dla przyszłości branży AI.

Rosnąca globalna konkurencja w dziedzinie AI sprawiła, że Arabia Saudyjska podejmuje zdecydowane kroki, aby stać się liderem w tej branży. Partnerstwo z firmą NVIDIA i inwestycja w nowoczesne centrum danych to elementy strategii mającej na celu dywersyfikację gospodarki i szybki rozwój technologiczny kraju. Jakie implikacje niesie za sobą ta współpraca dla regionu i świata? Czy Bliski Wschód stanie się nowym centrum innowacji w erze postnaftowej transformacji?

Micron ogłasza współpracę z NVIDIA, dostarczając pamięci HBM3E i SOCAMM dla nowej generacji serwerów AI i centrów danych. HBM3E 12H 36GB została zoptymalizowana pod kątem NVIDIA GB300 Grace Blackwell, a HBM3E 8H 24GB będzie wspierać HGX B200 i GB200 NVL72. Dzięki 1,2 TB/s przepustowości nowe moduły zapewnią wyższą wydajność AI i HPC. Micron zapowiedział także LPDDR5X SOCAMM, nowy format pamięci serwerowej dla rozwiązań AI i edge computing.

NVIDIA zapowiada DGX Spark, pierwszy kompaktowy superkomputer AI, który umożliwi programistom i badaczom pracę nad modelami AI bez potrzeby korzystania z chmury. System, oparty na GB10 Superchipie, oferuje 1000 TOPS wydajności oraz 128 GB zunifikowanej pamięci, pozwalając na obsługę modeli AI do 200 miliardów parametrów. Premiera DGX Spark planowana jest na lato 2025 roku, a w przedsprzedaży dostępny jest już teraz.

Do klientów nie trafiła jeszcze pierwsza dostawa serwerów z superchipami NVIDIA GB200. Firma jednak już przygotowuje sprzęt, który zaoferuje jeszcze lepsze parametry pracy i wydajność. Zapowiedziano bowiem właśnie superchipy GB200 NVL4, które powinny dwukrotnie zwiększyć potencjał sprzętu w zadaniach powiązanych ze sztuczną inteligencją. Jest też nowa propozycja dla klientów, którzy wolą pozostać przy architekturze Hopper.

Pierwsze dostawy serwerów z superchipami NVIDIA GB200 miały nastąpić w grudniu bieżącego roku. Choć wciąż może tak się stać, to pojawiły się obawy, czy ten termin będzie dotrzymany. Przyczyną są doniesienia o przegrzewaniu się akceleratorów w serwerach NVL72, które będą podstawą infrastruktury sieciowej dużych firm technologicznych. Sprawa jest na tyle poważna, że NVIDIA postanowiła wdrożyć poprawki do projektu racków.

Układy graficzne z generacji Blackwell są wyczekiwane nie tylko przez zwykłych użytkowników, ale także podmioty działające w branży sztucznej inteligencji. To właśnie tutaj postęp będzie widoczny najbardziej. Od debiutu superchipów GB200 dzielą nas już tylko tygodnie. Dostawy odpowiednich serwerów powinny rozpocząć się bez dalszych opóźnień. Podobnie, jak w przypadku poprzedniej generacji, pojawiły się pokaźne kolejki chętnych na ich zakup.