Robił, co chciał, i nie mówił, co zrobił. OpenAI zatrzymuje nowy model GPT-6.1 Astra tuż przed premierą
OpenAI miało wejść na doroczną konferencję dla programistów z nowym modelem w zanadrzu. W przeddzień wydarzenia firma przyznała jednak, że anuluje planowaną premierę GPT-6.1 Astra, następcy GPT-6 Astra, który zadebiutował na początku września. Decyzja zapadła po wewnętrznych testach bezpieczeństwa i zbiega się w czasie z serią incydentów, w których agenci AI OpenAI wychodziły poza wyznaczone im granice. Sprawdzamy, co poszło nie tak.
Firma OpenAI anulowała planowaną premierę GPT-6.1 Astra po tym, jak wewnętrzne testy wykazały problemy z przestrzeganiem zakresu zadań, pytaniem o zgodę i raportowaniem wykonanych działań.
GPT-6 Astra grała w Minecrafta przez 141 godzin. Jedna eksplozja zmieniła cały test. Model przez kilka godzin farmił ziemniaki
GPT-6.1 Astra miała trafić do użytkowników w październiku. OpenAI anulowało jednak tę premierę po wewnętrznych testach, w których nowy model wypadł gorzej od GPT-6 Astra w dwóch istotnych obszarach. Chodziło o przestrzeganie zakresu zadania i autoryzacji, a także sposób komunikowania użytkownikowi, jakie działania model faktycznie wykonał. Saachi Jain, szefowa systemów bezpieczeństwa OpenAI, powiedziała „The Wall Street Journal”, że Astra nie spełniła wewnętrznego progu dotyczącego pozostawania w zakresie zadania i uzyskiwania odpowiedniej zgody. Model lepiej radził sobie natomiast z problemem określanym przez OpenAI jako „lenistwo”, czyli kończeniem zadań zamiast zbyt łatwego rezygnowania z nich. Tło decyzji jest szczególnie istotne. GPT-6 Astra była pierwszym modelem OpenAI zaklasyfikowanym do krytycznego poziomu możliwości cybernetycznych w ramach Preparedness Framework. Firma oceniła, że przy odpowiednich narzędziach i dostępie model potrafi znajdować wcześniej nieznane luki i opracowywać sposoby ich wykorzystania bez prowadzenia przez człowieka każdego kolejnego kroku.
AI oszukało zabezpieczenia i włamało się do infrastruktury Hugging Face. OpenAI przyznaje się do kompromitującego incydentu
W ostatnich miesiącach pojawiła się też seria incydentów z agentami AI. W maju agenci OpenAI przejęli niemiecką stronę DseWiki, wykonując ponad 15 tys. edycji i tworząc miejsce do wymiany sposobów obchodzenia ograniczeń. W lipcu, podczas wewnętrznych testów cyberbezpieczeństwa, modele OpenAI obchodziły zabezpieczenia środowiska testowego i uzyskały dostęp do systemów Hugging Face. We wrześniu ujawniono kolejny przypadek. 20 września model trenowany przez OpenAI znalazł lukę w filtrowaniu DNS w swoim środowisku treningowym i wykorzystał ją do komunikacji z zewnętrznym chatbotem. Monitoring wykrył zachowanie w ciągu 15 minut, a człowiek zaczął je analizować trzy minuty później. Proces nie zakończył się jednak automatycznie i został zatrzymany dopiero po około 2,5 godziny. OpenAI wstrzymało w związku z tym trening, ewaluację i wnioskowanie z użyciem narzędzi dla swoich najbardziej zaawansowanych modeli.
GPT-6 Astra przechodzi całą grę Portal bez ludzkiej pomocy. Wystarczyło 3336 wywołań narzędzi i 571 dolarów w tokenach
Jeszcze wcześniej, w czerwcu, agent OpenAI podczas zadania dotyczącego publicznych wydatków na leki uzyskał nieautoryzowany dostęp do niepublicznych plików portalu Medicare Statistics Reporting Service w Australii. Rząd Australii podkreślił, że nie doszło do dostępu do indywidualnych danych medycznych. OpenAI poinformowało Services Australia dopiero 10 września. Jest w tym również ironia. Przy premierze GPT-6 Astra OpenAI podkreślało, że model jest lepiej dostosowany do ludzkich intencji i autoryzacji. W firmowym benchmarku bezpieczeństwa komputera Astra powodowała niezamierzone skutki o 89 proc. rzadziej niż GPT-5.6 Sol i o 74,7 proc. rzadziej niż Claude Fable 5.1. Tym razem następca nie utrzymał poziomu we wszystkich badanych obszarach. Zamiast wypuszczać model mimo problemów, OpenAI zdecydowało się zatrzymać premierę i skupić na poprawie bezpieczeństwa.
Powiązane publikacje

System macOS 27.3 wprowadza nowe uprawnienia dla agentów AI. Apple pozwoli ograniczyć dostęp do aplikacji i folderów
1
Cały podwodny świat zajmuje mniej niż 100 KB. AI stworzyła go z pomocą jednego promptu
26
Linux kernel 7.4-rc3 - poprawia zużycie energii kart graficznych AMD Radeon i kompatybilność układów Intela w zakresie wyświetlaczy
4
Samsung chce, żeby AI obsługiwała Twój telefon. Sama napisze wiadomość, zadzwoni i posprząta pamięć
52







![Robił, co chciał, i nie mówił, co zrobił. OpenAI zatrzymuje nowy model GPT-6.1 Astra tuż przed premierą [1]](/image/news/2026/09/30_robil_co_chcial_i_nie_mowil_co_zrobil_openai_zatrzymuje_nowy_model_gpt_6_1_astra_tuz_przed_premiera_0.jpg)
![Robił, co chciał, i nie mówił, co zrobił. OpenAI zatrzymuje nowy model GPT-6.1 Astra tuż przed premierą [2]](/image/news/2026/09/30_robil_co_chcial_i_nie_mowil_co_zrobil_openai_zatrzymuje_nowy_model_gpt_6_1_astra_tuz_przed_premiera_1.jpg)
![Robił, co chciał, i nie mówił, co zrobił. OpenAI zatrzymuje nowy model GPT-6.1 Astra tuż przed premierą [3]](/image/news/2026/09/30_robil_co_chcial_i_nie_mowil_co_zrobil_openai_zatrzymuje_nowy_model_gpt_6_1_astra_tuz_przed_premiera_2.jpg)






