AMD Radeon AI Pro R9700 z architekturą RDNA 4 i 32 GB VRAM. Specyfikacja pierwszej karty przeznaczonej do obliczeń AI

AMD sypnęło garścią nowych danych na temat nowej karty graficznej dla profesjonalistów, którą jest Radeon AI Pro R9700. Karta bazuje na architekturze RDNA 4 i zaprojektowano ją specjalnie do lokalnych obliczeń AI i trenowania modeli językowych. Firma konkuruje tym z rozwiązaniami NVIDII w segmencie profesjonalnym. Nowy układ ma znacząco przewyższać poprzednie generacje pod względem wydajności obliczeń AI oraz oferować lepszy stosunek ceny do możliwości.

AMD twierdzi, że Radeon AI Pro R9700 oferuje dwukrotnie lepszą wydajność w porównaniu do Radeon Pro W7800 w DeepSeek R1 Distill Llama 8B.

Karta AMD Radeon AI Pro R9700, należąca do nowej linii układów przeznaczonych do obliczeń związanych z AI, to pierwszy przedstawiciel architektury RDNA 4 w segmencie profesjonalnym. Bazuje ona na rdzeniu Navi 48 wyprodukowanym w procesie technologicznym TSMC 4 nm. Karta wyposażona została w 32 GB pamięci GDDR6 z 256-bitową magistralą, oferując przepustowość na poziomie 693 GB/s. Specyfikacja obejmuje również 128 dedykowanych rdzeni AI oraz TDP wynoszące 300 W. AMD deklaruje wydajność na poziomie 96 TFLOPS dla obliczeń FP16 oraz imponujące 1531 TOPS dla operacji INT4 Sparse. Jest to czterokrotny wzrost w porównaniu do poprzedniej generacji Radeon Pro W7800.

Układ został zaprojektowany z myślą o lokalnych obliczeniach AI, uczeniu nowych modeli sztucznej inteligencji, a także uruchamianiu gotowych modeli AI bez konieczności korzystania z chmury. Radeon AI Pro R9700 ma być w stanie obsłużyć modele o parametrach sięgających 32 mld bez konieczności łączenia się z zewnętrznymi serwerami, a to czyni go niezwykle atrakcyjnym rozwiązaniem dla firm potrzebujących prywatności danych.

Testy wydajności przeprowadzone przez AMD pokazują znaczącą przewagę nowego układu nad poprzednikami. W benchmarku DeepSeek R1 Distill Llama 8B karta oferuje dwukrotnie wyższą wydajność w porównaniu do Radeon Pro W7800, mimo że ta ostatnia również dysponuje 32 GB pamięci VRAM. Porównania z kartami NVIDIA GeForce RTX 5080 wykazują przewagę AMD w zadaniach wymagających dużej ilości pamięci wideo, co jest istotne dla nowoczesnych modeli AI.

Karty z serii Radeon Pro W7000, w tym modele W7900 i W7800, przedstawione w 2023 roku, były pierwszymi profesjonalnymi układami korzystającymi z architektury RDNA 3. Nowa generacja RDNA 4 wprowadza znaczące ulepszenia w kontekście obliczeń AI, oferując przeznaczone do tego jednostki obliczeniowe i zoptymalizowane sterowniki. AMD wskazuje Radeon AI Pro R9700 jako konkurencyjną alternatywę dla rozwiązań NVIDII w segmencie kart profesjonalnych. Szczególnie, gdy weźmiemy pod uwagę kontekst stosunku ceny do wydajności. Nowea nomenklatura "AI Pro" wskazuje na skupienie się firmy na rynku sztucznej inteligencji, gdzie dotychczas dominowały układy GeForce RTX i Quadro/RTX Professional.