OpenAI ma narzędzie, które wykryje tekst stworzony przez ChatGPT. Wdrożenie rozwiązania stoi pod znakiem zapytania

ChatGPT jest aktualnie najpopularniejszym chatbotem, który jest wykorzystywany w naprawdę wielu zadaniach. Okazuje się szczególną "pomocą" dla uczniów w szkołach, którzy mogą za jego pomocą szybko odrobić pracę domową. Do tej pory powstało już wiele narzędzi, które miały na celu weryfikację tekstu, aby określić, kto odpowiada za jego stworzenie. OpenAI dysponuje już odpowiednim rozwiązaniem, ale wciąż wstrzymuje się z jego wdrożeniem.

OpenAI opracowało narzędzie, którego zadaniem jest identyfikacja treści wygenerowanych przez autorskiego chatbota. Rozwiązanie budzi jednak wiele podziałów w organizacji, która nie jest pewna, czy jest sens je wdrożyć.

Rozmowy z ChatGPT na macOS nie były do końca prywatne. Aplikacja od OpenAI nie zabezpieczała danych w żaden sposób

Jak podaje redakcja najbardziej znanej gazety w Nowym Jorku, czyli The Wall Street Journal, OpenAI dysponuje już odpowiednim narzędziem, które potrafi z 99,99% dokładnością wskazać tekst, jaki został wygenerowany przez ChatGPT. Pracownicy organizacji są jednak bardzo podzieleni co do wprowadzenia tego rozwiązania. Jedni uważają to za świetny pomysł, a drudzy widzą wiele niekorzystnych konsekwencji. Chatbot miałby bowiem generować odpowiedzi ze znakiem wodnym, dzięki czemu dość łatwo można by było je później zidentyfikować — nawet jeśli ktoś dokonałby pomniejszych zmian w samym tekście.

ImageFX - Google wprowadza swój generator obrazów. W grafikach znajdzie się znak wodny, który widzą tylko maszyny

Obawy niektórych osób budzi fakt, że narzędzie nie osiąga 100% dokładności, więc zdarzałyby się przypadki poszkodowanych studentów, których praca byłaby uznana za sztucznie wygenerowaną. Na dodatek nałożony znak wodny można łatwo ominąć. Jak podaje samo OpenAI, wystarczy poprosić chatbota, aby wstawił znaki specjalne między generowany tekst, a następnie samemu je usunąć. Sprawdzi się również przeredagowanie tekstu przez innego chatbota. Na domiar złego ankieta przeprowadzona przez wspomnianą gazetę pokazała, że aż 30% osób przestanie korzystać z ChatGPT, jeśli znak wodny zostanie wprowadzony. Na ten moment jest więc sporo aspektów, które wymagają poprawy, więc wdrożenie tego zabezpieczenia — mimo że potrzebnego — może jeszcze trochę potrwać.