NVIDIA A100 - w Chinach pojawiły się ciekawe warianty akceleratora służącego do obsługi sztucznej inteligencji

Choć układ graficzny NVIDIA A100 ma już swoje lata, wciąż jest wykorzystywany w licznych centrach danych na całym świecie. Eksport tego akceleratora do Chin jest od pewnego czasu oficjalnie zakazany, jednak wciąż możliwe jest jego kupno na tamtejszym rynku. W ostatnim czasie w sprzedaży pojawiły się także interesujące wersje A100, które cechują się nieco lepszą specyfikacją niż modele podstawowe. Źródło ich pochodzenia nie jest do końca jasne.

Specjalne wersje akceleratora NVIDIA A100, które wypłynęły ostatnio na rynku chińskim, posiadają większą liczbę rdzeni CUDA, a niektóre także więcej pamięci. Przekłada się to na nieco wyższą moc obliczeniową.

NVIDIA A100 i NVIDIA H100 - Chińczycy są gotowi płacić gigantyczne pieniądze za układy graficzne na czarnym rynku

Na rynku są formalnie dostępne dwa podstawowe typy układu NVIDIA A100: z 40 GB i 80 GB pamięci. Pierwszy wykorzystuje pamięć HBM2, zaś drugi HBM2e. Oba warianty oferują jednak identyczną liczbę rdzeni CUDA, czyli 6912. Modele, które niedawno wypłynęły na chińskim rynku posiadają z kolei 7936 rdzeni CUDA. W praktyce jest ich zatem o 15% więcej niż w standardowych wariantach. Co więcej, niektóre z tych nietypowych układów posiadają też 96 GB pamięci HBM2e, która działa w oparciu o szynę 6144-bitową. Całość jest zasilana przez trzy konektory 8-pin.

NVIDIA H100 - chipy do obsługi sztucznej inteligencji zużyją w przyszłym roku olbrzymią ilość energii elektrycznej

Oczywiście lepsza specyfikacja przekłada się także na nieco wyższą wydajność. Nietypowy A100 oferuje moc obliczeniową 20 TFLOPS w przypadku FP32 i 10 TFLOPS w przypadku FP64. Standardowy A100 80 GB to odpowiednio 19,5 TFLOPS i 9,75 TFLOPS. Zagadką pozostaje źródło, z którego pochodzą te układy. W praktyce wątpliwe jest, żeby trafiły one do Chin niedawno, ponieważ akceleratory te są objęte amerykańskimi sankcjami. Prawdopodobnie znalazły się na tamtejszym rynku w okresie poprzedzającym nałożenie restrykcji i jest to specjalna wersja sprzętu przygotowana na zamówienie określonych klientów. Nieliczne GPU tego typu pojawiły się także na portalu eBay. Cena specjalnej wersji A100 wynosi około 17-20 tys. dolarów.

All kinds of 7936SP A100s are surfacing one after another. Kinda surprised that at least some of tjese 7936sp A100s were made back in 2020 and are only surfacing now?

Credit: https://t.co/dpfpLUm1Cf https://t.co/ls8LSJcSiS pic.twitter.com/CUswegFKzP

— Jiacheng Liu (@unnatural__log) April 14, 2024