Narzędzia do wykrywania Deepfake'ów są wciąż mało skuteczne

Sztuczna inteligencja sztucznej inteligencji nierówna. Okazuje się mianowicie, że tworzone przez jedne algorytmy materiały Deepfake, nie są odróżniane od rzeczywistości, przez inne algorytmy SI tak dobrze, jakbyśmy sobie tego życzyli. Wskazują na to ostatnie wyniki konkursu zrealizowanego przez portal społecznościowy Facebook. Aby jednak przejść do rzeczy, dla pewności przypomnijmy czym jest rzeczona technika Deepfake. Otóż polega ona na wygenerowaniu nowego materiału wideo lub przetworzenia istniejącego tak, aby stworzyć fałszywą rzeczywistość. Twórca deepfake'a z wykorzystaniem sztucznej inteligencji, na podstawie zdjęcia lub kilku zdjęć, nanosi twarz jednego człowieka na miejsce innego.

Prace nad stworzeniem algorytmów, które rozpoznawałyby wygenerowane przez sztuczną inteligencję Deepfake'i, wciąż trwają. Obecne wyniki nie są jednak póki co przesadnie zadowalające.

Chiny będą traktować deepfakes i fake news jako przestępstwo

Choć specjaliści tacy jak Mike Schroepfer (dyrektor ds. technologii Facebooka) uważają wciąż, że Deepfake'i nie sprawiają jak dotąd problemów na większą skalę, to nietrudno przewidzieć, jakie implikacje może przynieść owa technika, jeśli zostanie użyta w przemyślany i wyrafinowany sposób (np. w polityce, a nie jak dotąd - raczej w formie żartów). Już teraz szuka się więc rozwiązania (technologii), która z możliwie wysokim prawdopodobieństwie odgadywałaby, który materiał wideo jest Deepfakiem, aby w porę uniknąć jego hipotetycznie opłakanych skutków. Na tę chwilę nie jest jednak dobrze. Zwycięzcy konkursu Deepfake Detection Challenge ogłoszonego przez Facebooka w ubiegłym już roku, opracowali algorytmy wykrywające filmy zmanipulowane przez sztuczną inteligencję z 82% skutecznością.

Deepfake - sztuczna inteligencja sfałszuje nam rzeczywistość?

Wydaje się, że to wystarczający poziom, jednak w rzeczywistości nie zadowala pracujących nad rozwiązaniem naukowców. Co więcej, skuteczność owa dotyczyła wyłącznie materiałów, które nie zostały dodatkowo "zremasterowane". Kolejna pula dziesięciu tysięcy nagrań, na którą nałożono takie elementy jak zmienna ilość klatek na sekundę czy w którą wpleciono dodatkowe obrazy, była rozpoznawana przez SI z dużo mniejszą skutecznością, bo na poziomie zaledwie 65%. Prace nad trafniej określającym spreparowane materiały algorytmem, trwają więc dalej - aż do skutku. Pytanie tylko, czy jedna sztuczna inteligencja nie będzie za jakiś czas na tyle inteligentna, by wciąż, z dobrym skutkiem oszukiwać inne algorytmy sztucznej inteligencji?