YouTube przywraca ludzkich moderatorów, gdyż AI sobie nie radzi

Neal Mohan, dyrektor Google odpowiedzialny za serwis YouTube w wywiadzie dla Financial Times poruszającym temat wykorzystywania sztucznej inteligencji do moderacji, powiedział: „Popełniliśmy błąd”. Okazuje się bowiem, że algorytmy Google, których zadaniem jest filtrowanie niepożądanych treści, które mogłyby wprowadzać użytkowników w błąd, nie są tak sprawne, jak oczekiwano. Doszło do tego, że usługodawca zamierza przywrócić do pracy część moderatorów, którzy weryfikowali materiały z wyższą skutecznością. Rezygnacja z szybkości i niższego kosztu w imię dokładności wydaje się dobrym posunięciem. Warto jednak sprawdzić, czym podyktowane są zmiany.

YouTube nie chce już polegać na filtrowaniu treści przy pomocy algorytmów sztucznej inteligencji. Firma przywróci do pracy moderatorów. Oto powody.

YouTube: Koniec z e-mailami o pojawieniu się nowych filmów

Pandemia koronawirusa sprawiła, że na serwisie YouTube zaczęło pojawiać się więcej materiałów mogących wprowadzać w błąd użytkowników platformy. To w połączeniu z pokaźną liczbą nacechowanych negatywnie, wręcz nienawistnych materiałów sprowokowało Google do optymalizacji filtrowania filmów. Zrezygnowano z części „ludzkich” moderatorów, których miejsce zajęły algorytmy sztucznej inteligencji. Pozornie sprawne AI okazało się nie tyle nieskuteczne, ile niedokładne. Między kwietniem a czerwcem tego roku z YT usunięto około 11 milionów filmów, czyli o połowę więcej, niż miało to miejsce standardowo. Nie byłoby w tym nic złego, gdyby nie to, że mniej więcej w połowie przypadków doszło do pomyłki.

Donald Trump może ocenzurować Facebooka, Twittera i YouTube

Do serwisu YouTube trafiło ponad 320 tys. odwołań, z których 50 proc. zostało uznanych. Powrót reklamowanych filmów na platformę dotyczył dotychczas około 25 proc. zgłoszeń. Dla szefów usługi stało się jasne, że nawet w obliczu wykorzystywania filtrowania przy użyciu sztucznej inteligencji, potrzebna pracy dodatkowego „fizycznego” zespołu. Odpowiedzialni za weryfikację działań AI ludzie wyłapują skuteczniej to, z czym nie mogły pozwolić sobie algorytmy.