LM Studio

IFA w Berlinie to zwykle festiwal telewizorów i pralek, ale NVIDIA od kilku edycji robi z tej imprezy poligon dla własnych pomysłów na sztuczną inteligencję. Tym razem firma Jensena Huanga pokazała pakiet narzędzi ułatwiających uruchamianie agentów AI lokalnie, bez wysyłania danych do chmury. Wśród nich znalazło się PAIR, czyli projekt odpowiadający na problem znany każdemu, kto próbował odpalić kilku agentów jednocześnie na jednej karcie graficznej.

Lokalne przetwarzanie zadań związanych ze sztuczną inteligencją staje się nowym standardem w komputerach osobistych. Producenci podzespołów prześcigają się w dostarczaniu coraz większej mocy obliczeniowej bezpośrednio do urządzeń konsumenckich. Rozwój ten otwiera drogę do korzystania z zaawansowanych modeli językowych i generowania obrazów bez konieczności stałego połączenia z internetem i opłacania usług w chmurze.