ChatGPT - komercjalizacja usługi będzie wymagała gigantycznej liczby układów graficznych NVIDII

Technologie bazujące na sztucznej inteligencji są coraz bardziej powszechne. Wśród rozwiązań tego typu na szczególną uwagę zasługuje oczywiście ChatGPT. Niewiele osób zdaje sobie sprawę z tego, jak dużego potencjału obliczeniowego potrzebuje narzędzie OpenAI. Jego infrastruktura bazuje między innymi na wykorzystaniu układów graficznych NVIDII. Według najnowszych doniesień, komercjalizacja usługi znacząco zwiększy zapotrzebowanie na tego typu rozwiązania.

Szacuje się, że komercjalizacja rozwiązań zaproponowanych przez ChatGPT będzie wymagała mocy obliczeniowej nawet 30 tys. układów graficznych NVIDIA A100.

Meta prezentuje swój duży model językowy. Zuckerberg zdradził, jakiej spodziewać się wydajności względem ChatGPT

Szacunkowe dane zostały udostępnione przez firmę badawczą TrendForce. Mechanizmy, które ChatGPT wykorzystuje do przetwarzania danych, wymagały w 2020 roku mocy obliczeniowej około 20 tys. układów graficznych. Proces komercjalizacji usługi ma zwiększyć tę liczbę do nawet 30 tys. jednostek. Wynika to bezpośrednio ze wzrostu ilości parametrów, jakie są wykorzystywane przez AI podczas uczenia się. Liczba ta w 2018 roku wynosiła 120 mln, żeby w 2020 roku dobić do zawrotnego poziomu 180 mld. Przy szacowaniu ilości niezbędnych GPU, przyjęto założenie, że wykorzystane zostaną produkowane przez NVIDIĘ układy A100. Ich wydajność w zastosowaniach wykorzystujących potencjał sztucznej inteligencji jest bowiem niedościgniona. Każdy tego typu GPU oferuje 80 GB pamięci o przepustowości ponad 2 TB/s. Moc obliczeniowa A100 podczas uczenia maszynowego wynosi około 312 TFLOPS. Pokazuje to zatem skalę całego przedsięwzięcia.

ChatGPT - narzędzie OpenAI nie dla Chińczyków. Państwo Środka oficjalnie zakazuje jego wykorzystywania przez tamtejsze firmy

Oczywiście NVIDIA będzie bezpośrednim beneficjentem komercjalizacji rozwiązań bazujących na ChatGPT. Prawdopodobnie to właśnie amerykańska spółka znajdzie się w gronie firm, które zarobią najwięcej na upowszechnieniu usługi OpenAI. Nie dziwią zatem wypowiedzi Jensena Huanga, w których bardzo mocno chwali narzędzie. Choć prawdopodobnie nie są one motywowane wyłącznie kwestiami finansowymi, to nie można ich rozpatrywać całkowicie w oderwaniu od interesu NVIDII. Firma z Santa Clara jest bowiem obecnie jednym z liderów wykorzystania potencjału sztucznej inteligencji. W świetle obecnych problemów z popytem na standardowe karty graficzne, segment ten może stać się jednym z motorów napędowych wyników przedsiębiorstwa. Wśród największych beneficjentów rozwoju technologii wymienia się też między innymi firmy TSMC, Unimicron czy AIChip.