przepustowość pamięci

Przepustowość pamięci od kilku lat jest jednym z głównych ograniczeń wydajności akceleratorów AI. Im większy model językowy, tym więcej danych procesor musi przetwarzać w krótkim czasie, i tym bardziej widoczna staje się przepaść między możliwościami obliczeniowymi układów a tym, jak szybko pamięć nadąża z dostarczaniem danych. Rambus, firma specjalizująca się w licencjonowaniu IP dla układów scalonych, ogłosiła właśnie kolejny krok w tym wyścigu.