CUDA-for-AMD-Windows - niezależny projekt, który umożliwia translację bibliotek CUDA na kartach AMD Radeon RX 9000

Dwa lata temu powstał projekt SCALE, który w tych latach przeszedł wiele perturbacji związanych ze wsparciem korporacyjnym. Przyniósł on jednak ZLUDA, czyli warstwę translacyjną pozwalającą przekładać wywołania CUDA na operacje obsługiwane przez inne środowisko GPU. Projekt CUDA-for-AMD-Windows rozwija tę koncepcję, wykorzystując AMD HIP/ROCm do uruchamiania oprogramowania korzystającego z bibliotek CUDA na kartach AMD Radeon RX 9000 w Windows.

CUDA-for-AMD-Windows to niezależny projekt, który umożliwia uruchamianie oprogramowania korzystającego z bibliotek CUDA na kartach AMD Radeon RX 9000 w systemie Windows. Choć rozwiązanie jawi się jako duży krok, to jego zastosowanie pozostaje obecnie dosyć ograniczone.

SCALE - opracowano nowy zestaw narzędzi, który pozwala uruchomić NVIDIA CUDA na kartach graficznych AMD Radeon

CUDA-for-AMD-Windows to projekt dostępny na GitHubie, który wypełnia lukę pomiędzy ZLUDA a natywnym oprogramowaniem HIP/ROCm dla kart graficznych AMD Radeon RX 9000. Całość można określić jako zautomatyzowaną implementację środowiska ZLUDA, ponieważ proces konfiguracji został w dużej mierze uproszczony. Oprogramowanie automatycznie wykrywa posiadany układ GPU i dobiera oraz instaluje odpowiednią wersję ZLUDA. W dalszym ciągu konieczne jest jednak wskazanie konkretnej aplikacji, dla której środowisko ma zostać przygotowane. Projekt udostępnia w tym celu gotowy skrypt uruchamiający, który umieszcza wymagane biblioteki DLL ZLUDA obok pliku wykonywalnego aplikacji oraz ustawia ścieżki do środowiska HIP/ROCm na czas jej działania. Możliwe jest również samo przygotowanie środowiska bez uruchamiania programu.

NVIDIA Ising wchodzi do gry. CUDA-Q, NVQLink i AI mają skrócić drogę do użytecznych systemów kwantowych

W praktyce otwiera to możliwość uruchamiania na kartach AMD Radeon RX 9000 wybranych modeli AI oraz programów wymagających bibliotek CUDA, bez konieczności ręcznego konfigurowania całego środowiska. Trzeba jednak zaznaczyć, że rozwiązanie nadal ma istotne ograniczenia. Jednym z najważniejszych jest obecnie brak obsługi biblioteki cuDNN, która jest szeroko wykorzystywana przez współczesne frameworki i aplikacje związane z uczeniem maszynowym. Warto również zaznaczyć, że jedyną kartą graficzną w pełni przetestowaną przez autora projektu jest AMD Radeon RX 9060 XT. Autor przeprowadził również własne testy rozwiązania, w ramach których udało mu się przeprowadzić trening rzeczywistej sieci PPO z ~2,2 mln parametrów. Test obejmował nie tylko inferencję, ale również właściwy proces uczenia oraz operacje optymalizatora. W ramach walidacji wykonano iterację obejmującą 65 536 kroków czasowych, uzyskując medianę wyniku 13 278 SPS (Steps Per Second).

Neural-coprocessor umożliwia uruchomienie NVIDIA DLSS 5 na drugiej karcie graficznej. Spadek FPS znacząco maleje

CUDA-for-AMD-Windows jest zatem obecnie projektem skierowanym do wąskiej grupy odbiorców, w tym entuzjastów AI i badaczy zajmujących się tworzeniem oraz testowaniem modeli AI. Mimo iż rozwiązanie wykonuje translację wywołań bibliotek CUDA, nie ma ono obecnie większego związku z gamingiem. Jego zastosowanie koncentruje się przede wszystkim na uruchamianiu programów oraz modeli sztucznej inteligencji. Nie oznacza to jednak, że w przyszłości podobne rozwiązania nie zostaną wykorzystane również w kierunku gier.