Soundslice wprowadza import tabulatury ASCII w odpowiedzi na powtarzające się fałszywe informacje generowane przez ChatGPT

Przypadek platformy muzycznej Soundslice pokazuje nieoczekiwane konsekwencje halucynacji AI. Gdy ChatGPT przez miesiące błędnie informował użytkowników o nieistniejącej funkcji importu tabulatury ASCII, założyciel Adrian Holovaty stanął przed dylematem. Czy ignorować fałszywe informacje rozpowszechniane przez AI, czy może sprostać oczekiwaniom użytkowników? Ostatecznie zdecydował się na rozwiązanie, które może być precedensem dla innych firm zmagających się z podobnymi problemami.

Mam mieszane uczucia. Cieszę się, że dodaję nowe narzędzie pomagające ludziom, ale czuję, że zmuszono nas do tego w niezwykle dziwny sposób - powiedział Adrian Holovaty, założyciel Soundslice.

Który chatbot zbiera o Tobie najwięcej danych? ChatGPT, Grok, Copilot, Gemini, DeepSeek, czy może inny?

Adrian Holovaty, założyciel platformy muzycznej Soundslice i współtwórca popularnego frameworka Django, przez miesiące obserwował dziwne obrazy przesyłane w logach błędów swojej aplikacji. Zamiast tradycyjnych nut, użytkownicy przesyłali zrzuty ekranu z rozmów z ChatGPT zawierające tabulaturę w ASCII. Jest to tekstowa forma notacji gitarowej, w której używa się zwykłych znaków klawiaturowych zamiast klasycznych symboli muzycznych. Soundslice to platforma edukacyjna, która umożliwia synchronizowanie nagrań wideo z zapisem muzycznym. Firma oferuje także skaner nut, który wykorzystuje AI do konwersji zdjęć tradycyjnych zapisów nutowych na interaktywne partytury. System nie był jednak przygotowany na obsługę tabulatury w ASCII, co generowało błędy w logach. Holovaty odkrył przyczynę problemu, gdy sam przetestował ChatGPT. Sztuczna inteligencja OpenAI instruowała użytkowników, aby zakładali konta w Soundslice i przesyłali tam tabulaturę ASCII . Problem polegał na tym, że portal nigdy takiej funkcji nie oferował. ChatGPT rozpowszechniał te fałszywe informacje, tworząc błędne oczekiwania użytkowników wobec usługi Holovatego.

Nowa funkcja pamięci w ChatGPT, czyli jak AI może zapamiętać całe Twoje życie i co to oznacza dla prywatności

Założyciel Soundslice stanął przed dylematem. Mógł dodać ostrzeżenia przed błędnymi informacjami, które pochodziły z ChatGPT lub też sprostać oczekiwaniom użytkowników. Ostatecznie zdecydował się na implementację funkcji importu tabulatury ASCII. Nowa funkcja automatycznie konwertuje tekstową tabulaturę na standardową notację muzyczną z możliwością odtwarzania. Przypadek Soundslice może być pierwszym udokumentowanym przykładem rozwoju produktu w odpowiedzi na halucynacje sztucznej inteligencji. Holovaty przyznał, że ma mieszane uczucia wobec tej sytuacji. Z jednej strony cieszy się z dodania użytecznego narzędzia, z drugiej czuje się zmuszony do reagowania na dezinformację. Problem halucynacji w modelach językowych nie jest nowy. Wielokrotnie opisywaliśmy już przypadki fałszywych informacji generowanych przez ChatGPT, w tym historię Chicago Sun-Times, które opublikowało listę nieistniejących książek stworzoną przez AI. Eksperci podkreślają, że halucynacje pozostają jednym z głównych wyzwań w rozwoju sztucznej inteligencji. Społeczność programistów na Hacker News porównała sytuację do zbyt entuzjastycznego sprzedawcy obiecującego klientom funkcje, które muszą później zostać zaimplementowane przez deweloperów. Holovaty zgodził się z tym porównaniem, uznając je za trafne i zabawne. Przypadek Soundslice pokazuje, jak halucynacje AI mogą wpływać na realne decyzje biznesowe. Firmy muszą się przygotować na sytuacje, w których sztuczna inteligencja będzie błędnie przedstawiać ich produkty lub usługi. Może to wymagać nowych strategii komunikacyjnych, a także monitorowania tego, co AI przekazuje w o ich markach w swoich odpowiedziach.