nvidia h100

Jednym z punktów konferencji Intel Vision 2024 była prezentacja nowej generacji akceleratorów graficznych do obsługi sztucznej inteligencji - Gaudi 3. Niewątpliwie dominującą pozycję na tym rynku posiada NVIDIA, z którą bardzo trudno konkurować nawet posiadając dobrą ofertę. Układ Gaudi 3 z pewnością jednak znajdzie swoich odbiorców, ponieważ ma w określonych zastosowaniach znacząco wyprzedzić pod względem wydajności akcelerator H100.

W grudniu 2023 roku AMD wprowadziło do oferty nowe akceleratory z serii Instinct MI300X i MI300A, oparte na architekturze CDNA 3. To wydarzenie wzbudziło duże zainteresowanie i wiele emocji w mediach oraz świecie finansów, dając układom NVIDIA H100 godnego konkurenta. Okazuje się jednak, że produkty AMD są o połowę tańsze od swoich "zielonych" odpowiedników, a dla największego klienta, czyli Microsoftu, nawet czterokrotnie tańsze.

Dziś (6 grudnia 2023 roku) odbyła się zapowiedziana jakiś czas temu konferencja firmy AMD pod nazwą Advancing AI. Tematem przewodnim była dziedzina sztucznej inteligencji. Na wydarzeniu swoją oficjalną premierę miał akcelerator graficzny z rodziny AMD Instinct MI300, a konkretniej model MI300X. Został on stworzony do obliczeń związanych z AI, a jego konkurencją jest układ NVIDIA H100. Natomiast jednostka od AMD okazuje się aż o 60% wydajniejsza.

Pod względem poziomu zaawansowania branży komputerowej, Rosja znajduje się daleko nie tylko za krajami zachodnimi, ale także za Chinami. Od czasu inwazji na Ukrainę, jest też objęta daleko posuniętymi sankcjami, które nie pomagają w rozwoju tego sektora. Pomimo tego, podjęto decyzję o budowie nawet dziesięciu superkomputerów do 2030 roku. Można przy tym mieć wątpliwości, czy plany te uda się zrealizować choćby częściowo.

Wszyscy miłośnicy nowych technologii znają doskonale legendarne "prawo Moore’a", odnoszące się do wzrostu liczby tranzystorów w układach scalonych. Wielu ekspertów uważa jednak, że przestało ono obowiązywać. Jak stara się udowodnić NVIDIA, nową rzeczywistość znacznie lepiej opisuje "prawo Huanga". Dowodem na to jest olbrzymi wzrost wydajności i efektywności GPU na przestrzeni ostatnich 10 lat, zwłaszcza w sektorze sztucznej inteligencji.

Układy graficzne NVIDIA H100 i A100 cieszą się aktualnie na tyle dużą popularnością, że zamówienie ich wiąże się z koniecznością czekania w kolejce chętnych. Jest to oczywiście spowodowane boomem na sztuczną inteligencję. Jak przekonuje TSMC, w najbliższej przyszłości kolejki mogą jednak zniknąć, a przynajmniej znacząco się zmniejszyć. Nie oznacza to jednak spadku popularności akceleratorów, a optymalizację procesu produkcyjnego przez tajwańską spółkę.

W zeszłym roku Stany Zjednoczone nałożyły na Chiny restrykcje, których celem jest między innymi zablokowanie eksportu najbardziej zaawansowanych technologii do tego kraju. Dotyczy to między innymi wykorzystywanych powszechnie w sektorze sztucznej inteligencji układów graficznych NVIDIA H100 i A100. USA nie poprzestały jednak na tym. Według najnowszych doniesień, restrykcjami zostały objęte także niektóre kraje Bliskiego Wschodu.

Najnowsze wyniki finansowe NVIDII pokazują, że przytłaczająca część przychodów przedsiębiorstwa pochodzi z sektora centrów danych, który obejmuje przede wszystkim rozwiązania dedykowane sztucznej inteligencji. Chętni na zakup układów graficznych H100 muszą ustawiać się w kolejki i to pomimo tego, że nie są one tanie. Firma z Santa Clara, widząc olbrzymie zainteresowanie, przygotowuje się do radykalnego zwiększenia produkcji.

Kilka tygodni temu Intel oraz AMD opublikowali swoje wyniki finansowe za drugi kwartał 2023 roku. W obu przypadkach rezultaty wygenerowane w ostatnich trzech miesiącach były raczej przeciętne, generując dalsze spadki przychodu w większości prowadzonych działów. Czekaliśmy jeszcze na najnowsze sprawozdanie finansowe NVIDII, tyle że za drugi kwartał roku fiskalnego 2024. Przedsiębiorstwo wczoraj późnym wieczorem je opublikowało i w tym wypadku NVIDIA nie musi się obawiać o słabe wyniki. Wręcz przeciwnie...

Sektor sprzętu przeznaczonego do treningu i obsługi sztucznej inteligencji stanowi obecnie dużą część przychodów NVIDII. Jednymi z najbardziej popularnych układów do tego typu zadań są akceleratory H100. Koszt pojedynczego egzemplarza waha się w Stanach Zjednoczonych w granicach 25-30 tys. dolarów (wersja PCIe). Wiele osób zadawało sobie pytanie, jak dużą marżę nakłada firma na swoje urządzenia. Według najnowszych doniesień, jest ona olbrzymia.

W wykorzystaniu technologii bazujących na sztucznej inteligencji przodują na razie firmy z USA. Rozwój tego sektora w Chinach jest znacznie utrudniony z powodu amerykańskich sankcji, ale wiele wskazuje na to, że do gry chcą włączyć się także kraje arabskie. W ostatnim okresie wzrosła sprzedaż układów NVIDIA H100 w Arabii Saudyjskiej i Zjednoczonych Emiratach Arabskich. Może to niepokoić z uwagi na tamtejsze problemy z przestrzeganiem praw człowieka.

Podczas konferencji Google I/O, amerykańska firma zapowiedziała szereg zmian w swojej usłudze Bard, która ma być konkurencją dla ChatGPT i Microsoft Bing. Istotną dla wielu użytkowników nowością będzie porzucenie listy kolejkowej dla osób, które chciałyby wypróbować chatbota. Już wkrótce będzie on dostępny w 180 krajach i terytoriach. Usługi Google bazujące na AI, będą korzystały z superkomputerów wyposażonych w układy graficzne NVIDIA H100.

NVIDIA H100 to akcelerator graficzny przeznaczony głównie do obliczeń powiązanych z rozwojem sztucznej inteligencji. Nie bez powodu uważany jest za najpotężniejszą tego typu jednostkę na rynku. Firma NVIDIA pochwaliła się, jak wypada on na tle poprzedniej generacji sprzętu, a także kilku innych propozycji. Okazuje się też, że po odpowiednim zoptymalizowaniu oprogramowania uzyskana wydajność jest jeszcze bardziej imponująca.

Technologie bazujące na wykorzystaniu algorytmów sztucznej inteligencji stają się coraz bardziej popularne. To wymaga zapewnienia odpowiedniego zaplecza technologicznego. Firma Microsoft właśnie ujawniła swoją nową generację maszyn wirtualnych o nazwie ND H100 v5, które będą napędzane przez najnowsze akceleratory graficzne NVIDIA H100. Ma to zapewnić w przyszłości odpowiednie zaplecze dla procesów uczenia maszynowego.

Akcelerator graficzny NVIDIA H100, oparty na układzie GH100 i architekturze Hopper, został zaprezentowany ponad pół roku temu, jednak dopiero dwa tygodnie temu poinformowano o jego dostępności dla klientów. Choć specyfikacja układu z grubsza została ujawniona podczas marcowego GTC, NVIDIA przez ostatnie miesiące jeszcze bardziej dopracowywała akcelerator. Producent zaktualizował specyfikację H100 na swojej stronie i wygląda na to, że będzie on jeszcze mocniejszy niż sądzono.

Kilka miesięcy temu NVIDIA ujawniła architekturę Hopper, przygotowaną z myślą o obliczeniach HPC/AI. Jej przedstawicielem jest akcelerator graficzny NVIDIA H100, oparty na układzie GH100 i korzystający z 80 GB pamięci HBM2e (wersja PCIe) lub HBM3 (obudowa SXM5). Dopiero przed tygodniem, w ramach kolejnej prezentacji GTC 2022, NVIDIA potwierdziła dostępność układu H100. Tymczasem wkrótce może pojawić się kolejna wersja akceleratora, wyposażona w jeszcze większą ilość pamięci.

Dwa tygodnie temu chińska firma Biren Technology zaprezentowała swoje najnowsze akceleratory graficzne Biren BR100 oraz Biren BR104. Zwłaszcza ten pierwszy na papierze wydaje się bardzo ciekawy, zwłaszcza że sam producent deklaruje jego wyższą wydajność w porównaniu chociażby do modelu NVIDIA A100. Podczas pierwszej prezentacji nie zdradzono jednak zbyt wielu informacji o specyfikacji. Dopiero podczas Hot Chips 34 ujawniono nieco więcej szczegółów.

Chińskie firmy w ostatnich latach coraz śmielej prezentują swoje układy graficzne, oferujące zarówno słabsze jak również mocniejsze specyfikacje techniczne. Próby przebicia się na rynku widać zarówno w postaci konsumenckich kart graficznych jak również profesjonalnych układów - wszystko w celu uniezależnienia się od amerykańskich firm tj. NVIDIA czy AMD. Najnowszą i najbardziej ambitną propozycją jest akcelerator Biren BR100 chińskiej firmy Biren Technology.

Od tygodni pojawiały się w sieci informacje na temat nowej generacji akceleratorów GPU do zaawansowanych obliczeń dla rynku HPC oraz AI od firmy NVIDIA. Od dawna wiedzieliśmy, że architektura Ampere na tym rynku zostanie zastąpiona przez architekturę Hopper. Dzisiaj odbywa się konferencja producenta w ramach GPU Technology Conference, podczas której omówiono zarówno wspomnianą architekturę Hopper (nazwa na cześć pionierki informatyki - Grace Hopper), przygotowanej z myślą nie tylko o rynku HPC, ale...