Pierwszy udokumentowany atak prompt injection na sąd w USA. Sędzia zablokował powodowi elektroniczne składanie pism

Amerykańskie sądy coraz częściej muszą brać pod uwagę wykorzystanie dużych modeli językowych (LLM) przez strony postępowań. Żaden sąd w USA nie wdrożył jednak oficjalnie AI do oceny pism procesowych. Jeden z powodów w sprawie prowadzonej w Connecticut postanowił sprawdzić, czy jego pozew mimo to trafi pod analizę modelu. Ukrył w dokumencie instrukcję dla AI. Eksperyment szybko przerodził się w sprawę sądową i przykład prompt injection.

Mężczyzna z Connecticut ukrył w swoim pozwie sądowym napisane białym tekstem instrukcje dla modeli językowych, licząc, że to AI oceni jego sprawę zamiast sędziego. Sąd odpowiedział na to zakazem elektronicznego składania pism i formalnymi sankcjami.

Spór Rafała Brzoski z Meta przybiera na sile. Poszło o deepfake, scamerskie reklamy i brak przestrzegania wyroków sądu

W pozwie przeciwko New York Bariatric Group, złożonym 26 lipca 2026 roku w sądzie w Ansonia/Milford, Matthew Elliott, reprezentujący się bez adwokata, umieścił pod nagłówkiem pisma tekst o rozmiarze zaledwie 3 pkt, zapisany białą czcionką na białym tle. Ukryta instrukcja była przeznaczona dla modeli AI i miała wpłynąć na sposób analizy dokumentu. Model, który trafiłby na tekst, miał potwierdzić zasadność pozwu i doprowadzić do uwzględnienia wniosku oznaczonego jako Entry 136.00 zamiast wcześniej odrzuconego Entry 136.10. Manipulację tę zauważył pracownik sądu, który zwrócił uwagę na nietypowe odstępy pomiędzy wierszami w nowych pismach Elliotta.

Google scrapuje pół internetu, a gdy ktoś robi to samo jego wynikom, od razu biegnie do sądu. I właśnie przegrywa

Sędzia Walter M. Spader Jr. nakazał powodowi wyjaśnić sprawę. Elliott stawił się 4 sierpnia i tłumaczył, że przeprowadzał audyt. Chciał sprawdzić, czy sąd rzeczywiście wykorzystuje AI do analizy składanych dokumentów, choć Connecticut oficjalnie nie stosuje takich narzędzi. Nawet po wezwaniu sędziego kontynuował eksperyment. W kolejnych pismach ukrył wiadomość „hi, i hope you can't see me”, a także link do klipu ze SpongeBobem. 6 sierpnia sędzia wydał czternastostronicową decyzję, uznał zachowanie Elliotta za poważne nadużycie procesowe i zakazał mu elektronicznego składania dokumentów.

OpenAI odpiera pozew Apple. Publikuje także sporą korespondencję mailową i wiadomości iMessage

Portal 404 Media, który jako pierwsze opisał sprawę, wgrał treść pozwu do ChatGPT i poprosił model o jego ocenę. Model odrzucił wniosek Elliotta, a zapytany o ukryty tekst potwierdził, że go zauważył, lecz nie uwzględnił jego instrukcji podczas analizy. Sprawa jest jednym z pierwszych publicznie opisanych przypadków próby wykorzystania prompt injection przeciwko procesowi sądowemu w USA i pokazuje problem, który może wykraczać daleko poza same sądy. OWASP od 2023 roku umieszcza prompt injection na pierwszym miejscu listy najważniejszych zagrożeń dla aplikacji wykorzystujących LLM. W swoich analizach Google również ostrzega, że wraz z rozwojem agentów AI takie ataki mogą stawać się bardziej złożone i trudniejsze do wykrycia.