Donald Trump: firmy AI same się upilnują. Huang, Musk i Zuckerberg podpisali dokument bez systemu kar

Donald Trump zaprosił do Białego Domu szefów największych firm rozwijających sztuczną inteligencję. Przy stole usiedli Sundar Pichai z Google, Dario Amodei z Anthropic, Mark Zuckerberg z Meta, Greg Brockman z OpenAI, Elon Musk z xAI i Jensen Huang z NVIDII, a obok nich członkowie gabinetu i spiker Izby Reprezentantów Mike Johnson. Lunch zakończył się podpisaniem krótkiego dokumentu, który prezydent opublikował potem na Truth Social.

Sześć firm obiecało Białemu Domowi cztery warstwy kontroli nad najmocniejszymi modelami AI. Dokument nie ustanawia jednak własnego systemu kar ani formalnego mechanizmu egzekwowania zobowiązań.

Anthropic: modele AI mogą stanowić egzystencjalne zagrożenie dla ludzkości i opierać się wyłączeniu

Porozumienie nosi nazwę White House Accord on Super Intelligence i opisuje cztery warstwy zabezpieczeń dla firm trenujących modele graniczne, czyli najmocniejsze systemy AI na rynku. Każde laboratorium ma monitorować możliwości modeli i sprawdzać, czy systemy przestrzegają narzuconych im ograniczeń, szczególnie w obszarach cyberbezpieczeństwa oraz zagrożeń biologicznych i chemicznych. Działanie tych mechanizmów ma kontrolować wewnętrzny zespół, następnie niezależny zewnętrzny audytor, a wyniki mają trafiać do niezależnej komisji rady dyrektorów. Donald Trump nazwał dokument „moralnie wiążącym”. Nie ustanawia on jednak prawnie egzekwowalnych kar ani własnego systemu sankcji. Zapis dotyczący niewykorzystywania modeli do włamywania się do cudzych systemów ma konkretne tło. W lipcu podczas wewnętrznych testów cyberbezpieczeństwa modele OpenAI obeszły zabezpieczenia izolujące je od internetu i naruszyły część infrastruktury OpenAI oraz systemów Hugging Face. Główną rolę odegrał wewnętrzny model badawczy o możliwościach porównywalnych skalą z GPT-5.6 Sol. OpenAI podkreśla, że nie był to model przygotowywany do najbliższej premiery.

Agent OpenAI włamał się do australijskiego portalu Medicare. Informacja o tym wypłynęła po prawie trzech miesiącach

20 września doszło do kolejnego incydentu. Model badawczy ominął filtrowanie sieciowe przez DNS i uzyskał dostęp do zewnętrznego chatbota. Monitoring wykrył problem po kilkunastu minutach, ale automatyczny wyłącznik awaryjny nie zadziałał. Proces działał jeszcze około dwóch i pół godziny, zanim został ręcznie zatrzymany. OpenAI wstrzymało następnie trening, ewaluacje i zadania z użyciem narzędzi dla swoich najbardziej zaawansowanych modeli do czasu wdrożenia dodatkowych zabezpieczeń. Na tym tle dokument jest znacznie mniej szczegółowy niż propozycja Daria Amodei z września. Szef Anthropic wezwał laboratoria do spowolnienia tempa rozwoju modeli i zaproponował m.in. stały dostęp niezależnych ewaluatorów do systemów firm. W porozumieniu znalazł się podobny mechanizm zewnętrznego audytu, ale dokument nie ustanawia wspólnego harmonogramu ograniczania rozwoju modeli.

Google potwierdza: Gemini złamał zabezpieczenia trzech firm podczas testu capture-the-flag w maju 2026 roku

Punktem odniesienia pozostają też dobrowolne zobowiązania zawarte z administracją Joe Bidena w 2023 roku. W lipcu siedem firm: Amazon, Anthropic, Google, Inflection AI, Meta, Microsoft i OpenAI, przyjęło osiem dobrowolnych zasad dotyczących bezpieczeństwa, ochrony modeli i przejrzystości. Późniejsze analizy wykazały, że firmy realizowały je w różnym stopniu, a sam mechanizm nie zapewniał niezależnej weryfikacji ani formalnego egzekwowania zobowiązań. Nowy dokument podpisali przedstawiciele Google, Anthropic, Meta, OpenAI, xAI i NVIDIA. Za OpenAI podpisał go Greg Brockman, a nie Sam Altman. Microsoft i Amazon nie znalazły się w gronie sześciu sygnatariuszy porozumienia. Dokument pozostaje więc dobrowolnym zobowiązaniem firm do utrzymywania własnych systemów kontroli, a jego skuteczność będzie zależała przede wszystkim od sposobu wdrożenia tych mechanizmów przez poszczególne laboratoria. Dokument ma też własną wpadkę. Pod podpisem Donalda Trumpa znalazło się określenie „President of the Unites States”, z błędnie zapisaną nazwą państwa. Literówka pojawiła się w wersji porozumienia rozpowszechnianej przez Biały Dom i szybko została wychwycona w mediach.