halucynacje AI

OpenAI oficjalnie wkracza na rynek technologii medycznych, uruchamiając ChatGPT Health, czyli dedykowaną sekcję chatbota do rozmów o zdrowiu. Funkcja pozwala na połączenie elektronicznej dokumentacji medycznej oraz aplikacji wellness, obiecując spersonalizowane odpowiedzi na podstawie rzeczywistych danych pacjenta. Firma przekonuje, że stworzyła "hermetyczną" przestrzeń z dodatkowym szyfrowaniem i izolacją od pozostałych czatów.

AI coraz częściej pomaga w tworzeniu analiz i oficjalnych dokumentów. Technologia ta oferuje ogromne możliwości, ale wiąże się też z ryzykiem. Brak odpowiedniej weryfikacji treści generowanych przez AI może prowadzić do poważnych błędów. Incydent, który miał miejsce w Kanadzie, jest tego doskonałym przykładem. Pokazuje, jak łatwo można podważyć wiarygodność ważnego raportu, jeśli bezkrytycznie zaufa się narzędziom opartym na dużych modelach językowych.

Przypadek platformy muzycznej Soundslice pokazuje nieoczekiwane konsekwencje halucynacji AI. Gdy ChatGPT przez miesiące błędnie informował użytkowników o nieistniejącej funkcji importu tabulatury ASCII, założyciel Adrian Holovaty stanął przed dylematem. Czy ignorować fałszywe informacje rozpowszechniane przez AI, czy może sprostać oczekiwaniom użytkowników? Ostatecznie zdecydował się na rozwiązanie, które może być precedensem dla innych firm zmagających się z podobnymi problemami.