błędy AI

Google właśnie usunęło część swoich AI Overviews, automatycznych podsumowań w wynikach wyszukiwania, po śledztwie The Guardian. Ujawniono, że system podaje potencjalnie śmiertelne informacje zdrowotne. To kolejny cios dla flagowej funkcji firmy z Mountain View, która dostarcza użytkownikom więcej problemów niż rozwiązań. Sprawa staje się poważna, gdy AI przestaje radzić dodawanie kleju do pizzy, a zaczyna wpływać na decyzje medyczne milionów ludzi.

Przypadek platformy muzycznej Soundslice pokazuje nieoczekiwane konsekwencje halucynacji AI. Gdy ChatGPT przez miesiące błędnie informował użytkowników o nieistniejącej funkcji importu tabulatury ASCII, założyciel Adrian Holovaty stanął przed dylematem. Czy ignorować fałszywe informacje rozpowszechniane przez AI, czy może sprostać oczekiwaniom użytkowników? Ostatecznie zdecydował się na rozwiązanie, które może być precedensem dla innych firm zmagających się z podobnymi problemami.