NVIDIA H100 - chipy do obsługi sztucznej inteligencji zużyją w przyszłym roku olbrzymią ilość energii elektrycznej

Układy NVIDIA H100 to jedno z najpopularniejszych rozwiązań do obsługi algorytmów sztucznej inteligencji. Przeważnie podmioty nabywające ten sprzęt nie martwią się zapotrzebowaniem na energię elektryczną. Jeśli stać je na zakup znaczącej liczby GPU, to stać je także na opłacenie rachunków. Sprawa ma jednak także kontekst ekologiczny w dobie zmian klimatycznych. Okazuje się, że układy H100 konsumują łącznie olbrzymią ilość energii.

Układy graficzne NVIDIA H100 zużyją w 2024 roku 13 TWh energii elektrycznej. Jest to znacząca wartość, ale raczej nie będzie ona decydująca w kontekście prób zahamowania zmian klimatycznych.

NVIDIA dostarczy w 2023 roku na rynek pół miliona układów H100. Które firmy zrobiły największe zakupy?

Prognozy zakładają, że w przyszłym roku będzie działało na świecie łącznie 3,5 mln jednostek NVIDIA H100. Jak wyliczył jeden z analityków rynkowych na profilu w portalu X, będzie się to wiązało z roczną konsumpcją 13 TWh (13000 GWh) energii elektrycznej. Dla porównania jest to wynik równy rocznemu zużyciu energii takich państw, jak Gwatemala czy Litwa i miesięcznemu zużyciu Polski. Choć wydaje się, że w kontekście całej planety nie będzie miało to decydującego znaczenia, to w przyszłości może to być nowy cel dla niektórych ruchów ekologicznych.

TSMC twierdzi, że w nieodległej przyszłości skończą się niedobory układów graficznych NVIDIA H100 i A100

Teoretycznie pojawienie się na mapie zużycia energii elektrycznej nowego, ale niezbyt dużego "państwa" (w dodatku rozproszonego), nie powinno zachwiać w żaden sposób ani systemami energetycznymi, ani ekologią, jednakże nie da się zaprzeczyć, że wyliczona konsumpcja energii jest wysoka. W dodatku dojdzie do jej potrojenia względem roku 2023. Nic też nie wskazuje na to, żeby w kolejnych latach boom na AI zmniejszył się. Zatem zużycie energii elektrycznej z tego tytułu po 2024 roku będzie jeszcze wyższe.

By next year, Nvidia's ~3.5 million units of deployed H100 GPUs will consume a whopping 13,000 GWh of electricity annually, which is greater than the power consumption of some entire countries like Guatamela and Lithuania.

— Stock Talk (@stocktalkweekly) December 27, 2023