h100

Choć Elon Musk początkowo odnosił się bardzo nieprzychylnie do rozwoju sztucznej inteligencji, to ostatecznie zdecydował się na olbrzymie inwestycje w ten segment rynku. Jego firma xAI operuje obecnie jednym z największych klastrów serwerowych na świecie. Co ważne, multimiliarder nie powiedział w tej kwestii jeszcze ostatniego słowa. Trwa bowiem właśnie dalsze rozbudowanie potencjału sprzętowego przedsiębiorstwa. Bazą są akceleratory Hopper.

Boom na sztuczną inteligencję skłania coraz większą liczbę podmiotów do inwestycji w infrastrukturę serwerową. Obecny sprzęt umożliwia osiągnięcie mocy obliczeniowej, która jeszcze kilka lat temu była poza zasięgiem większości firm. Odpowiednie inwestycje poczynił też właściciel platformy X - Elon Musk. Miliarder pochwalił się właśnie uruchomieniem klastra serwerowego, który przyćmiewa swoim potencjałem nawet większość superkomputerów.

Kilka tygodni temu firmy Intel oraz AMD opublikowały swoje wyniki finansowe za 4 kwartał roku 2023 oraz cały poprzedni rok. Wielu z pewnością czekało przede wszystkim na najświeższe wyniki NVIDII, które to miały zawierać w sobie rezultaty zarówno z czwartego kwartału roku fiskalnego 2024 (nie kalendarzowego) oraz ostatnich 12 miesięcy. Od kilku miesięcy NVIDIA bije kolejne rekordy, czym zawdzięczane jest to olbrzymim zainteresowaniem na profesjonalne akceleratory z generacji Ampere oraz Hopper. Najnowszy...

Choć NVIDIA odgrywa na razie wiodącą rolę w kwestii produkcji rozwiązań sprzętowych przeznaczonych do obsługi AI, to sytuacja rynkowa prawdopodobnie nieco się w przyszłości zmieni. Wiele dużych podmiotów jest w trakcie prac nad chipami, które będą mogły być wykorzystywane w tego typu zadaniach. Jednym z nich jest firma Meta. Jak podają źródła, jeszcze w tym roku światło dzienne może ujrzeć chip Artemis, który zastąpi częściowo układy NVIDII.

Skuteczność sankcji nakładanych przez jedno państwo lub grupę państw na inne jest zawsze zróżnicowana. W większości przypadków podejmowane są bardziej lub mniej skuteczne próby ich omijania. Z taką sytuacją mamy z pewnością do czynienia w przypadku amerykańskich sankcji nałożonych na Chiny. Co więcej, okazuje się, że Państwo Środka mogło znaleźć skuteczny sposób na zniwelowanie części z nich, ale skala zjawiska nie jest precyzyjnie oszacowana.

Nałożenie przez Stany Zjednoczone sankcji na Chiny niewątpliwie utrudniło nieco działalność NVIDII, dla której był to pokaźny rynek zbytu dla rozwiązań dedykowanych sztucznej inteligencji. Wygląda jednak na to, że amerykańska firma znalazła duży alternatywny rynek zbytu. W perspektywie najbliższego roku Indie zamierzają zamówić pokaźną liczbę układów H100 i superchipów GH200. Łączna wartość zamówień ze strony firmy Yotta sięgnie kilkuset milionów dolarów.

Układy NVIDIA H100 to jedno z najpopularniejszych rozwiązań do obsługi algorytmów sztucznej inteligencji. Przeważnie podmioty nabywające ten sprzęt nie martwią się zapotrzebowaniem na energię elektryczną. Jeśli stać je na zakup znaczącej liczby GPU, to stać je także na opłacenie rachunków. Sprawa ma jednak także kontekst ekologiczny w dobie zmian klimatycznych. Okazuje się, że układy H100 konsumują łącznie olbrzymią ilość energii.

Przychody NVIDII z segmentu centrów danych, obejmującego przede wszystkim rozwiązania dedykowane AI, stale rosną. W trzecim kwartale roku fiskalnego 2024 było to 14,51 mld dolarów. Żaden inny dział nawet nie zbliżył się do tego wyniku. Jedna z firm analitycznych szacuje, że NVIDIA dostarczy w 2023 roku blisko pół miliona akceleratorów H100. Ciekawe są także dane prezentujące, kto konkretnie te GPU zakupił. Okazuje się, że dominują tutaj dwie spółki.

Już trzy miesiące temu NVIDIA chwaliła się rekordowymi przychodami, gdzie sam dział Data Center wygenerował przychód na poziomie ponad 10 miliardów dolarów. Akceleratory z rodziny H100 Hopper są dosłownie rozchwytywane, co pozwala przedsiębiorstwu na podbijanie cen, a zatem i zwiększanie marży. Szał na tematykę sztucznej inteligencji zdaje się nie mieć końca, co widać po dalszych działaniach NVIDII, mocno skupiającej się właśnie na obliczeniach AI. To z kolei ma przełożenie na dalsze wyniki...

Sektor sztucznej inteligencji jest obecnie jednym z najdynamiczniej rozwijających się na świecie. Wiele wskazuje na to, że jesteśmy dopiero w początkowej fazie rewolucji, do której docelowo doprowadzi. Nic zatem dziwnego, że wiele firm na całym świecie przymierza się do inwestycji w ten obszar. Przygotowania czyni także Apple, które może wprowadzić elementy AI do systemu iOS 18. Wymagać to będzie jednak pokaźnych wydatków.

W ostatnim okresie ze względu na silny rozwój aspektów związanych ze "sztuczną inteligencją" to właśnie NVIDIA wysunęła się na prowadzenie. Jednostki, które odpowiadają za wykonywaniem obliczeń w tym zakresie, czyli NVIDIA H100 oraz A100, są obecnie rozchwytywane wśród firm. Popyt jest tak duży, że aktualnie ich ceny sięgają ogromnych kwot rzędu kilkudziesięciu tysięcy dolarów. Ten aktualny trend przyczynił się do monopolu, któremu na ten moment nic nie grozi. Nadchodzi jednak ofensywa ze...

Pod względem poziomu zaawansowania branży komputerowej, Rosja znajduje się daleko nie tylko za krajami zachodnimi, ale także za Chinami. Od czasu inwazji na Ukrainę, jest też objęta daleko posuniętymi sankcjami, które nie pomagają w rozwoju tego sektora. Pomimo tego, podjęto decyzję o budowie nawet dziesięciu superkomputerów do 2030 roku. Można przy tym mieć wątpliwości, czy plany te uda się zrealizować choćby częściowo.

Wszyscy miłośnicy nowych technologii znają doskonale legendarne "prawo Moore’a", odnoszące się do wzrostu liczby tranzystorów w układach scalonych. Wielu ekspertów uważa jednak, że przestało ono obowiązywać. Jak stara się udowodnić NVIDIA, nową rzeczywistość znacznie lepiej opisuje "prawo Huanga". Dowodem na to jest olbrzymi wzrost wydajności i efektywności GPU na przestrzeni ostatnich 10 lat, zwłaszcza w sektorze sztucznej inteligencji.

Układy graficzne NVIDIA H100 i A100 cieszą się aktualnie na tyle dużą popularnością, że zamówienie ich wiąże się z koniecznością czekania w kolejce chętnych. Jest to oczywiście spowodowane boomem na sztuczną inteligencję. Jak przekonuje TSMC, w najbliższej przyszłości kolejki mogą jednak zniknąć, a przynajmniej znacząco się zmniejszyć. Nie oznacza to jednak spadku popularności akceleratorów, a optymalizację procesu produkcyjnego przez tajwańską spółkę.

W zeszłym roku Stany Zjednoczone nałożyły na Chiny restrykcje, których celem jest między innymi zablokowanie eksportu najbardziej zaawansowanych technologii do tego kraju. Dotyczy to między innymi wykorzystywanych powszechnie w sektorze sztucznej inteligencji układów graficznych NVIDIA H100 i A100. USA nie poprzestały jednak na tym. Według najnowszych doniesień, restrykcjami zostały objęte także niektóre kraje Bliskiego Wschodu.

Najnowsze wyniki finansowe NVIDII pokazują, że przytłaczająca część przychodów przedsiębiorstwa pochodzi z sektora centrów danych, który obejmuje przede wszystkim rozwiązania dedykowane sztucznej inteligencji. Chętni na zakup układów graficznych H100 muszą ustawiać się w kolejki i to pomimo tego, że nie są one tanie. Firma z Santa Clara, widząc olbrzymie zainteresowanie, przygotowuje się do radykalnego zwiększenia produkcji.

Kilka tygodni temu Intel oraz AMD opublikowali swoje wyniki finansowe za drugi kwartał 2023 roku. W obu przypadkach rezultaty wygenerowane w ostatnich trzech miesiącach były raczej przeciętne, generując dalsze spadki przychodu w większości prowadzonych działów. Czekaliśmy jeszcze na najnowsze sprawozdanie finansowe NVIDII, tyle że za drugi kwartał roku fiskalnego 2024. Przedsiębiorstwo wczoraj późnym wieczorem je opublikowało i w tym wypadku NVIDIA nie musi się obawiać o słabe wyniki. Wręcz przeciwnie...

Sektor sprzętu przeznaczonego do treningu i obsługi sztucznej inteligencji stanowi obecnie dużą część przychodów NVIDII. Jednymi z najbardziej popularnych układów do tego typu zadań są akceleratory H100. Koszt pojedynczego egzemplarza waha się w Stanach Zjednoczonych w granicach 25-30 tys. dolarów (wersja PCIe). Wiele osób zadawało sobie pytanie, jak dużą marżę nakłada firma na swoje urządzenia. Według najnowszych doniesień, jest ona olbrzymia.

W wykorzystaniu technologii bazujących na sztucznej inteligencji przodują na razie firmy z USA. Rozwój tego sektora w Chinach jest znacznie utrudniony z powodu amerykańskich sankcji, ale wiele wskazuje na to, że do gry chcą włączyć się także kraje arabskie. W ostatnim okresie wzrosła sprzedaż układów NVIDIA H100 w Arabii Saudyjskiej i Zjednoczonych Emiratach Arabskich. Może to niepokoić z uwagi na tamtejsze problemy z przestrzeganiem praw człowieka.

Ograniczenia nakładane na procesy gospodarcze bardzo często skutkują wykształceniem czarnego rynku. Jest to zazwyczaj próba obejścia restrykcji, ale u swoich podstaw zjawisko to przyjmuje po prostu charakter odpowiedzi na niezaspokojony popyt. Czarny rynek wykształcił się także w Chinach i obejmuje on również układy graficzne przeznaczone do zadań związanych ze sztuczną inteligencją. Jest to niezamierzony efekt amerykańskich sankcji.

Jak wiadomo, Stany Zjednoczone nałożyły na Chiny embargo, które zabrania firmom z USA eksportu do Państwa Środka bardziej zaawansowanych technologii. Celem tego zabiegu miało być między innymi ograniczenie rozwoju przemysłu zbrojeniowego tego kraju. W rezultacie NVIDIA musiała wstrzymać dostawy swoich najbardziej wydajnych chipów. Amerykańska firma przygotowała jednak specjalną wersję układów A100 i H100, która nie jest objęta sankcjami.

Od czasu zaprezentowania ChatGPT popyt na niego nie maleje. Można się spodziewać, że jego popularność będzie tylko rosnąć, a już szczególnie jeśli mówimy o obecnym roku. W związku z dynamicznie zmieniającą się sytuacją i dużym zapotrzebowaniem na moc obliczeniową NVIDIA wprowadza procesor graficzny H100 NVL. Oparty jest on na na rdzeniach Tensor czwartej generacji oraz dwóch układach H100. Łączną pamięć nowego GPU wynosi aż 188 GB HBM3.

Jesteśmy już po oficjalnej prezentacji serwerowych procesorów Intel Xeon Scalable Gen.4 w postaci rodziny Sapphire Rapids. Zapowiadane wiele miesięcy temu serwerowe procesory zostały zapowiedziane po kilku opóźnieniach na przestrzeni całego 2022 roku. Nowe jednostki, oparte na architekturze Golden Cove, zostaną wyposażone w maksymalnie 60 rdzeni P-Core z obsługą 120 wątków jednocześnie. Jednym z klientów, którzy zdecydowali się na wybór propozycji Intela jest NVIDIA.

Może i GeForce RTX 4090 jest szalenie drogi i niezbyt nowoczesny pod niektórymi względami, ale mimo to układ cieszy się sporą popularnością wśród graczy i entuzjastów. W końcu to zdecydowanie najmocniejsza i najbardziej bezkompromisowa karta graficzna na rynku. Producent z pewnością nie narzeka więc na niskie przychody ze sprzedaży tej jednostki, jednak okazuje się, że i tak konieczne będzie skupienie się na innym układzie.

Akcelerator graficzny NVIDIA H100, oparty na układzie GH100 i architekturze Hopper, został zaprezentowany ponad pół roku temu, jednak dopiero dwa tygodnie temu poinformowano o jego dostępności dla klientów. Choć specyfikacja układu z grubsza została ujawniona podczas marcowego GTC, NVIDIA przez ostatnie miesiące jeszcze bardziej dopracowywała akcelerator. Producent zaktualizował specyfikację H100 na swojej stronie i wygląda na to, że będzie on jeszcze mocniejszy niż sądzono.

Kilka miesięcy temu NVIDIA ujawniła architekturę Hopper, przygotowaną z myślą o obliczeniach HPC/AI. Jej przedstawicielem jest akcelerator graficzny NVIDIA H100, oparty na układzie GH100 i korzystający z 80 GB pamięci HBM2e (wersja PCIe) lub HBM3 (obudowa SXM5). Dopiero przed tygodniem, w ramach kolejnej prezentacji GTC 2022, NVIDIA potwierdziła dostępność układu H100. Tymczasem wkrótce może pojawić się kolejna wersja akceleratora, wyposażona w jeszcze większą ilość pamięci.

Kilka dni temu w sieci pojawiły się doniesienia, jakoby rząd USA zakazał NVIDII eksportu wysokowydajnych układów graficznych A100 do Chin. Powodem takiej decyzji może być obawa, że jednostki te będą później wykorzystywane przez chińskie wojsko. W efekcie akcje Zielonych spadły o 6 procent, a ponadto pojawiły się prognozy, jakoby producent miał stracić przez to nawet 400 milionów dolarów. Na szczęście dla NVIDII, jest jeszcze czas na dostosowanie się do regulacji.

Kilka miesięcy temu NVIDIA ogłosiła nową architekturę dla graficznych akceleratorów - Hopper. Przynosi on spory wzrost wydajności, głównie w obliczeniach opartych na sztucznej inteligencji. Ponadto warianty układu NVIDIA H100 dla obudów SXM5 wyposażone są w najszybszą obecnie pamięć typu HBM3. Na bazie wspomnianych akceleratorów producent tworzy również profesjonalne stacje obliczeniowe - NVIDIA DGX. Firma potwierdziła w końcu, z jakich procesorów skorzysta.

Co można mieć za ok. 150 000 zł? Nie ulega wątpliwości, że to (nadal) spora kwota, za którą właściwie można ułożyć sobie życie. Możliwości jest więc wiele. Niektórzy kupią za to porządny samochód prosto z salonu, inni założą własny biznes, jeszcze inni będą chcieli kupić kawalerkę na wynajem (w różnych częściach Polski). Możliwe jednak, że niektórzy profesjonaliści wymagającej olbrzymiej mocy obliczeniowej będą chcieli przeznaczyć te fundusze na "część do komputera". Choć...

Od tygodni pojawiały się w sieci informacje na temat nowej generacji akceleratorów GPU do zaawansowanych obliczeń dla rynku HPC oraz AI od firmy NVIDIA. Od dawna wiedzieliśmy, że architektura Ampere na tym rynku zostanie zastąpiona przez architekturę Hopper. Dzisiaj odbywa się konferencja producenta w ramach GPU Technology Conference, podczas której omówiono zarówno wspomnianą architekturę Hopper (nazwa na cześć pionierki informatyki - Grace Hopper), przygotowanej z myślą nie tylko o rynku HPC, ale...