ataki na AI

Amerykańskie sądy coraz częściej muszą brać pod uwagę wykorzystanie dużych modeli językowych (LLM) przez strony postępowań. Żaden sąd w USA nie wdrożył jednak oficjalnie AI do oceny pism procesowych. Jeden z powodów w sprawie prowadzonej w Connecticut postanowił sprawdzić, czy jego pozew mimo to trafi pod analizę modelu. Ukrył w dokumencie instrukcję dla AI. Eksperyment szybko przerodził się w sprawę sądową i przykład prompt injection.