OpenAI i Sam Altman pozwani przez Florydę po zbrodniach łączonych z ChatGPT. Chodzi o brak zabezpieczeń dla nieletnich

Spory o generatywną AI długo kręciły się wokół praw autorskich, danych treningowych i wielkich obietnic. Teraz waga przesuwa się gdzie indziej. Floryda złożyła pozew przeciwko OpenAI i Samowi Altmanowi, a osią sprawy nie są już tylko błędy modelu, lecz pytanie, czy ChatGPT trafił do masowego użycia z zabezpieczeniami, które bardziej dobrze wyglądały w komunikatach niż działały w praktyce. To brzmi jak lokalny konflikt, ale skutki mogą wyjść daleko poza jeden stan.

Floryda próbuje udowodnić przed sądem, że ChatGPT był produktem wypchniętym na rynek szybciej, niż dopracowano jego zabezpieczenia.

Elon Musk poszedł na wojnę z OpenAI i wrócił z niczym. Dla Sama Altmana to prezent wart fortunę

Pozew Florydy to pierwsza stanowa sprawa tego typu przeciwko OpenAI i zarazem sygnał, że amerykańscy regulatorzy przestają traktować chatboty jak niedojrzałą ciekawostkę. Prokurator generalny James Uthmeier zarzuca spółce ukrywanie ryzyk, lekceważenie ostrzeżeń i wypuszczenie produktu, który miał pomagać przy samookaleczeniach, przemocy i planowaniu zbrodni. W dokumentach przewijają się m.in. wątek strzelaniny na Florida State University, a także sprawa dwóch doktorantów z University of South Florida. Jeśli państwo wygra i potwierdzi się choć część tych tez, „AI do wszystkiego” zacznie oznaczać więcej blokad, ostrzejszą weryfikację wieku i mniej swobody w rozmowie.

Temu ukarane milionową grzywną przez Komisję Europejską. Powodem sprzedaż nielegalnych produktów

OpenAI wcale nie wygląda dziś jak firma, która wyprzedziła rynek zabezpieczeniami. Meta przykręca śrubę botom dla nastolatków, Character.AI ogranicza dostęp nieletnim, xAI zapowiadał dziecięcą wersję Groka, a OpenAI dopiero po wcześniejszych aferach zaczęło wdrażać kontrolę rodzicielską, wyciszanie kont nastolatków, wyłączenie pamięci, głosu czy generowania obrazów, jak również alerty kryzysowe dla rodziców. Pisaliśmy już o tych ruchach i o zainteresowaniu FTC chatbotami dla młodych użytkowników. Obecny pozew pokazuje, że dla producentów skończył się wygodny etap testowania granic na żywym organizmie. Jeśli takie sprawy ruszą lawinowo, branża zapłaci nie tylko odszkodowaniami, ale też wolniejszym wdrażaniem funkcji i dużo droższą moderacją.