Character.AI

Świat AI znów znalazł się w centrum burzy medialnej. Character.AI ogłosiło decyzję, która może zmienić przyszłość całego sektora chatbotów AI. Od 25 listopada 2025 roku platforma zablokuje możliwość prowadzenia otwartych rozmów dla użytkowników poniżej 18 roku życia. Czy to tylko reakcja na rosnące kontrowersje i pozwy, czy może przełomowy moment w definiowaniu odpowiedzialności technologicznych gigantów?

AI coraz śmielej wkracza w nasze życie, a chatboty potrafią już nie tylko odpowiadać na pytania, ale także imitować ludzkie emocje i budować relacje. Stają się cyfrowymi przyjaciółmi, zwłaszcza dla młodych osób. Taka zażyłość budzi jednak obawy o bezpieczeństwo i prywatność. Rozwój tej technologii przyciągnął uwagę amerykańskich regulatorów, którzy postanowili bliżej przyjrzeć się działaniom największych firm z branży i potencjalnym zagrożeniom, jakie mogą stwarzać ich produkty.

Naukowcy ze Stanford University przeprowadzili szczegółowe badanie pięciu popularnych chatbotów terapeutycznych. Wyniki pokazują niepokojące trendy związane z bezpieczeństwem AI w zdrowiu psychicznym. Zespół badawczy pod kierownictwem Nicka Habera z Stanford Graduate School of Education przeanalizował platformy takie jak Character.ai i 7cups. Okazuje się, że sztuczna inteligencja może nie tylko nie pomagać pacjentom, ale wręcz im szkodzić.