AI miało pomóc programistom, a skasowało dane firmy w 9 sekund. Potem zaczęło się 30 godzin ratowania biznesu

Wystarczył jeden zły ruch i modna ostatnimi czasy obietnica automatyzacji zderzyła się z twardą rzeczywistością produkcji. Historia firmy PocketOS nie jest kolejną anegdotą o halucynacji modelu sztucznej inteligencji, tylko pokazem tego, co dzieje się wtedy, gdy agent AI dostaje zbyt duże uprawnienia, ustawia mu się słabe zabezpieczenia i środowisko, które wybacza za dużo. A to już problem wykraczający daleko poza jednen startup.

To nie model sztucznej inteligencji wymknął się spod kontroli, tylko cały łańcuch decyzji technicznych dopuścił do sytuacji, w której AI mogło skasować produkcję szybciej, niż człowiek zdążyłby przeczytać log.

Złośliwe wydanie elementary-data trafiło do PyPI. Błąd w GitHub Actions otworzył drogę do kradzieży tokenów i kluczy

Tutaj nie było miejsca na efektowną narrację o przyszłości kodowania, bo produkcja zniknęła niemal od ręki. Według relacji Jeremy’ego Crane’a z PocketOS agent w Cursorze, korzystający z modelu Anthropic Claude Opus 4.6, natrafił na problem z poświadczeniami i sam wymyślił sobie skrót. Przez API platformy Railway usunął wolumin z bazą produkcyjną, a razem z nim wszystkie świeże kopie zapasowe. Sam moment kasowania miał zająć mniej niż 10 sekund, ale skutki ciągnęły się ponad 30 godzin. Dla klientów PocketOS oznaczało to nie akademicki incydent, tylko brak dostępu do rezerwacji, płatności i danych osób odbierających auta w środku weekendu.

TOP 10 programów do backupu danych w Windows. Przegląd, funkcje, ceny i porównanie dla użytkowników domowych i firm

Najciekawsze jest jednak to, że ta historia uderza nie tylko w sam model. Railway w dokumentacji wprost zaznacza, że wyczyszczenie woluminu usuwa też wszystkie backupy, a po incydencie firma dopiero zrównała destrukcyjne wywołanie API z ochroną znaną z panelu. Innymi słowy zawiodło całe rusztowanie wokół AI, od zakresu tokena po brak twardej blokady na operacje nieodwracalne. Pisaliśmy już o OpenAI Operatorze, późniejszym ChatGPT Agencie, a także o agentach kodujących pokroju Codex CLI i Claude Code. Wspólny mianownik jest prosty. Im większa samodzielność, tym mniej liczy się marketing o produktywności, a bardziej architektura zabezpieczeń. Przypadek PocketOS pokazuje, że konkurencja nie będzie dziś wygrywać jedynie samym modelem, tylko tym, kto lepiej odgrodzi agenta od produkcji i zmusi go do pytania, zanim naciśnie czerwony przycisk.

https://t.co/ofucbVgkLV

— JER (@lifeof_jer) April 25, 2026