Tensor Processing Unit

Rynek niestandardowych układów AI dla centrów danych od lat wygląda na twierdzę Broadcoma. To on od 2014 roku współprojektuje kolejne generacje TPU dla Google'a. Niedawna informacja o rozszerzonej umowie z Marvell Technology każe jednak spojrzeć na tę relację inaczej. Chodzi nie tylko o kolejny kontrakt na produkcję krzemu, ale o mechanizm finansowy, który wiąże przyszłość obu firm znacznie ściślej niż typowa umowa dostawcza.

Google od 2016 roku buduje własne układy TPU do trenowania i obsługi modeli AI, ale najnowsze doniesienia sugerują coś nowego. Według nich firma testuje projekt chipu, który zamiast obsługiwać dowolne modele, ma zostać skrojony wyłącznie pod jeden, czyli Gemini. To pomysł na tyle nietypowy w świecie akceleratorów AI, że wymaga wyjaśnienia, ile Google chce zaszyć w krzemie, kiedy sprzęt trafi do serwerowni i co firma ryzykuje, stawiając na jedną architekturę modelu.

Google znów dokręca śrubę w wyścigu o infrastrukturę dla sztucznej inteligencji, ale tym razem nie chodzi o prosty wzrost mocy. Firma pokazuje, że rynek dojrzał do momentu, w którym jeden akcelerator przestaje wystarczać do wszystkiego. Za marketingowym hasłem o erze agentów kryje się znacznie bardziej przyziemna sprawa, a mianowicie koszt pojedynczej odpowiedzi, opóźnienia i skala, która zaczyna pożerać budżety centrów danych.

Kiedy Google w 2016 roku zaprezentowało światu swoje rewolucyjne chipy Tensor Processing Unit, skrótowiec TPU szybko stał się synonimem zaawansowanych akceleratorów AI. Układy te napędzają dziś wszystko, od wyszukiwarki, przez model Gemini, aż po infrastrukturę oferowaną klientom Google Cloud. Problem w tym, że według firmy Tachyum, Google nigdy nie miało prawa używać tego skrótowca. Sprawa trafia do U.S. Trademark Office, a dla Google stawka może być zaskakująco wysoka.