Gracz zbudował w Minecraft funkcjonalny model GPT z 5 milionami parametrów używając redstone, który odpowiada na pytania

Gry wideo, takie jak Minecraft, od dawna służą jako piaskownice dla kreatywności, pozwalając na budowanie skomplikowanych mechanizmów i struktur. Jednak ostatnie dokonania jednego z graczy przenoszą te koncepcje na zupełnie nowy poziom, ukazując potencjał wirtualnego środowiska jako platformy do eksperymentów z nawet najbardziej zaawansowanymi technologiami. Mowa tu o integracji sztucznej inteligencji ze światem złożonym z bloków.

Gracz i programista Sammyuri z powodzeniem zaimplementował w Minecrafcie model językowy CraftGPT, dowodząc, że Redstone może posłużyć do tworzenia złożonych systemów AI.

Koniec z drogimi studiami mocap. Runway Act-Two animuje dowolną postać jednym nagraniem. Wystarczy kamerka telefonu

Użytkownik YouTube o pseudonimie sammyuri zaprezentował niezwykłe osiągnięcie techniczne. Stworzył funkcjonalny model sztucznej inteligencji CraftGPT wyłącznie z elementów Minecraft. Projekt wykorzystuje 439 milionów bloków redstone do stworzenia 6-warstwowej sieci neuronowej z 5 087 280 parametrami. Model został wytrenowany zewnętrznie na zbiorze danych TinyChat zawierającym podstawowe rozmowy w języku angielskim. Model korzysta z 240 wymiarów do reprezentacji słów, ma słownik 1920 elementów i zapamiętuje kontekst do 64 tokenów naraz. Większość danych została uproszczona do 8 bitów, ale część związana z reprezentacją słów i normalizacją ma większą dokładność, czyli odpowiednio 18 i 24 bity.

Audio2Face 3D udostępniony za darmo. NVIDIA otwiera kod źródłowy zaawansowanego systemu lip-sync wspomaganego AI

Budowla zajmuje przestrzeń 1020 × 260 × 1656 bloków i zawiera wszystkie komponenty typowego transformera. Znajdują się tam tokenizery, mnożniki macierzy, warstwy uwagi i aproksymacje funkcji softmax. Cały mechanizm działa bez modyfikacji, bloków komend czy pakietów danych. Najważniejszym ograniczeniem projektu jest prędkość działania. Generowanie pojedynczej odpowiedzi zajmuje około dwóch godzin przy wykorzystaniu MCHPRS (Minecraft High Performance Redstone Server) z przyspieszeniem 40 000x. W normalnym trybie Minecraft proces trwałby ponad 9 lat. MCHPRS kompiluje obwody redstone do grafów i umożliwia działanie z prędkością miliona tików na sekundę. CraftGPT nawiązuje do wcześniejszych projektów sieci neuronowych w Minecraft. W 2024 roku inni twórcy budowali sieci rozpoznające cyfry z 83 proc. dokładnością. Projekty te wykorzystywały analogowe obwody Redstone do implementacji propagacji wstecznej i optymalizatorów. Sammyuri poszedł jednak znacznie dalej, tworząc pierwszy pełnowymiarowy model językowy w grze.