Deepfake - sztuczna inteligencja sfałszuje nam rzeczywistość?

Deepfake to nazwa będąca z nami od niedawna. Po raz pierwszy zaczęto jej używać zaledwie dwa lata temu i pochodzi o nazwy konta deepfakes na Reddicie. Użytkownik ten, wraz z innymi zajmował się tworzeniem filmików ze znanymi postaciami, którym zamieniano twarze z innymi ludźmi. Najczęściej, początkowo twarze celebrytów przenoszono do filmów pornograficznych. Zaczynało się więc pozornie niewinnymi żartami, ale sprawa szybko zaczęła nabierać powagi. W przyszłości mogą być z tego pewne korzyści, ale na horyzoncie są też duże zagrożenia. Czy sztuczna inteligencja zacznie nami sterować? Na razie w stadnym pędzie sami karmimy jej nieskończony apetyt na dane. Gdzie ta technologia zmierza?

Żarty już były, a teraz może nas czekać twarde starcie z potęgą sztucznej inteligencji. Wystarczą niewłaściwe ręce i niecne zamiary.

Technika Deepfake polega na wygenerowaniu nowego materiału wideo lub przetworzenia istniejącego tak, aby stworzyć fałszywą rzeczywistość. Z wykorzystaniem sztucznej inteligencji, a konkretniej nawet dwóch, na podstawie zdjęcia lub kilku twórca deepfake'a nanosi twarz jednego człowieka na miejsce innego. Sztuczna inteligencja wykorzystywana jest do analizy obu obrazów, a także modyfikacji nanoszonej twarzy tak, aby zawsze idealnie pasowała sylwetki "biorcy", z uwzględnieniem poruszania głową we wszystkie strony. Zadaniem najtrudniejszym jest oczywiście zrobienie tego wszystkiego tak, aby wyeliminować wszelkie ślady modyfikacji materiału źródłowego.

Dlatego też do tworzenia deefake'ów potrzebne są dwie rywalizujące ze sobą sztuczne inteligencje. Pierwsza z nich to generator, więc "system" modyfikujący obraz. Drugi to "system" analizujący (dyskryminator). Razem tworzą GAN (Generative Adversarial Network). Zadaniem tego drugiego jest badanie wrzucanych mu filmów i dokonanie za każdym razem wyboru - prawdziwy czy fejk? Jak łatwo się domyśleć obie sztuczne inteligencje muszą uczyć się, analizować swoje błędy tak, aby wygrać z drugą. Generator dąży do zerowej wykrywalności fejków, a drugi do struprocentowej wykrywalności. W ten sposób obie sztuczne inteligencje za każdym razem stają się coraz bardziej skuteczne, choć ostatecznym sędzią jest ułomny (popełniający błędy) człowiek, tak więc logika podpowiada, że w ocenie Homo Sapiens prędzej wygra generator fejków.

Wspomniany wcześniej GAN to jeden z rodzajów uczenia maszynowego (Machine Learning), w ramach którego stosuje się dwie konkurujące sieci, działające bez udziału człowieka. Mamy dwie sieci neuronowe, które uczą się i udoskonalają tak, aby uzyskiwać coraz lepsze wyniki. Deepfake to tylko jedno z wielu ich zastosowań. Wśród nich są m.in. techniki upscalingu obrazu, cyfrowa renowacja uszkodzonych lub zniszczonych obrazów lub zdjęć, przewidywanie następnych klatek filmu, generowanie obrazów na podstawie tekstu, itd. My skupmy się na deepfake.

Do masowej świadomości deepfake'i przebiły się w 2017 roku, kiedy to na Reddicie zaczęły pojawiać się pierwsze materiały ze znanymi postaciami, których twarze umieszczano w filmach pornograficznych. Wśród pierwszych ofiar deepfake'ów były m.in. Daisy Ridley, Emma Watson, Scarlett Johanson, czy Taylor Swift. Warto przypomnieć, że nie od razu zorientowano się, że pornograficzne sceny to fałszywki. Gdy udało się to stwierdzić, popularne serwisy, w których je rozpowszechniano, a więc chociażby Twitter, Pornhub, Gfycat i Reddit, postanowiły zablokować te treści. Pierwsze szkody jednak zostały dokonane, a pewna bariera przełamana.

Tetris ma 35 lat! Do dziś to najlepszy towar eksportowy ZSRR

Z biegiem czasu twórcy deepfake'ów działali na rzecz ich udoskonalania, karmiąc AI nowymi paczkami zdjęć i filmów ze znanymi postaciami, pobieranymi z internetu. Nie trzeba było długo czekać na deepfake'i z politykami. Już w 2018 roku ofiarami tej metody tworzenia fałszywek padli m.in. Angela Merkel, Donald Trump, Nancy Pelosi (obecna spiker Izby Reprezentantów Stanów Zjednoczonych), czy Barrack Obama, choć ten ostatni został wykorzystany do wyraźnej przestrogi przed deepfake'ami. Ostatnio coraz częściej powstają deepfake'i ze zmodyfikowanymi scenami popularnych filmów. Wciąż jednak jesteśmy na początku drogi. Co przed nami?

Jak już wspomniałem wcześniej dwie sieci neuronowe w GAN rywalizujące o możliwie jak najlepszych rezultatów zostawiają nas, ludzi, daleko w tyle. Sieć neuronowa przeanalizuje każdą klatkę obrazu, piksel po pikselu, każdą parę pikseli, każdy dowolny blok pikseli, porówna przeciwne krawędzie klatki, dosłownie wszystko, starając się znaleźć nieprawidłowości. Człowiek nie ma takiej zdolności. Już od kilku lat zmorą internetu oraz mediów są fake newsy. Ludzie zamykają się w coraz twardszych bańkach informacyjnych, co tylko ułatwia rozpowszechnianie fałszywych wieści, bo każdy w takiej bańce uwierzy w to, co pasuje do jego/jej światopoglądu.

Deepfake może doskonale wpasować się w metody ludzi i organizacji, które dzięki tej formie przekazu sterują ludzkimi emocjami. Niewinnie wyglądający deepfake ze sceną z filmu Lśnienie, w której twarz Jacka Nicholsona zastąpiła twarz Jima Carrey'a, to tylko delikatne łaskotanie. Deepfake niebawem, po osiągnięciu jeszcze lepszej skuteczności generatorów, będą mogły być masowo wykorzystywane w kampaniach politycznych do szkalowania przeciwników. Przykładem takiego działania były dwa filmy z amerykańską kongresmenką Nancy Pelosi. Na udostępnionym całkiem niedawno deepfake'u, jej twarz została dopasowana do przerobionej przemowy, która w fałszywej formie sugerowała, że Pelosi ma trudności z wysławianiem się. Na fałszywkę nabrał się sam Donald Trump, który nie tylko wrzucił ją na swoim twitterowym koncie, ale wręcz przypiął. Skoro prezydent USA nabrał się, to jak miałby nie nabrać się uczestnik jakiejś zamkniętej grupy np. na Facebooku? W bańkach informacyjnych fałszywki rozprzestrzeniają się szybko i nikt niczego nie weryfikuje - wystarczy, że fałszywka oczernia kogoś, kogo nie lubimy. Do tego dorzućmy bezmyślnych przedstawicieli mediów i czyjś dramat życiowy może być przesądzony.

Co prawda kolejne serwisy albo już zaczęły deepfake'i banować, albo zaczną to robić. Trzeba jednak wziąć pod uwagę to, że generatory deepfake'ów nie będą stać w miejscu, a będą stawać się coraz lepsze. Ludzie zajmujący się rozpowszechnianiem fejków zawsze znajdą jakieś furtki, albo zupełnie nowe kanały dystrybucji. Polityka, biznes, to nie koniec zastosowań deepfake'ów. Istniejący już chociażby program FakeApp pozwala każdemu stworzenie swojego deepfake'a. Rozwiązanie to wciąż tworzy dość łatwe do wychwycenia fałszywki, ale z biegiem czasu deepfake'i mogą stać się narzędziami walk osobistych. Wrobienie męża w zdradę, wrobienie żony w złe traktowanie teścia, sąsiada w zniszczenie samochodu, sąsiadki w wybicie okna - dziś wciąż jeszcze łatwe do zweryfikowania, jeśli chciałoby się tego dokonać z pomocą deepfake'a. W przyszłości, z lepszymi rozwiązaniami, w dodatku zeznań paru "świadków", co wtedy? Co jeśli generatory deefake'ów będą kilka kroków przed ich neuronowymi konkurentami?

Uczenie maszynowe na potrzeby deepfake'ów wymaga danych, na podstawie których powstają wyniki, a na podstawie których postępuje uczenie się. Problem polega na tym, że być może sami je właścicielom "neuronówek" dostarczamy. Dopiero co pojawiły się kontrowersje wokół aplikacji FaceApp, wykorzystanej ostatnio masowo. Wykorzystujący maszynowe uczenie program służy do generowania twarzy użytkownika, ale postarzonej o kilka dekad. Nie wiadomo ile dokładnie zdjęć twórcy aplikacji zgarnęli, a więc jak dużo danych złapały ich GAN-y. Dlaczego o tym wspominam? Ano dlatego, że przecież nie tak dawno była inna akcja, w ramach której internautów zachęcano do publikowania par swoich zdjęć, aby pokazać jak zmienili się w ciągu dziesięciu lat. Chodzi oczywiście o #10yearchallenge. Nie sądzę aby mogło okazać się, że #10yearchallenge i FaceApp są ze sobą powiązane. FaceApp istnieje od dwóch lat, ale to raczej nie przypadek, że po długim czasie ciszy, serwisy społecznościowe niemal z dnia na dzień zamieniły się w oddziały geriatryczne - niedługo po akcji #10yearchallenge. Zmierzam do tego, że w takich właśnie sytuacjach najpewniej sami, za darmo, karmimy czyjeś serwery danymi, wykorzystywanymi do rozwoju sztucznej inteligencji.

Zupełnie inną kwestią jest podejście prawa do tego wszystkiego. Nieuchronnie zbliża się moment, w którym rządy kolejnych krajów będą musiały zacząć odpowiadać sobie na jedno proste pytanie? Pełna wolność, regulacja, czy zakaz? Nie oszukujmy się, ewentualny wysyp fałszywek i ich większe niż dziś zasięgi będą podstawą do uruchomienia debat w tym temacie. Problem polega na tym, że ludzie wykorzystujący sztuczną inteligencję, sieci neuronowe, itd., będą mieć nad politykami przewagę. Polityk niewygodny? Wystarczy go odpowiednio skompromitować, a tu SI nada się idealnie. Dlatego też tego typu dyskusje pojawią się moim zdaniem o wiele wcześniej niż można by się spodziewać. Politycy, ale nie tylko, nie będą chcieli czekać, aż wszystko posunie się tak daleko, że nie będzie dało się z tym walczyć na argumenty merytoryczne, bo przeciwnik zasypie świat wiarygodnie wyglądającymi fałszywkami i będą znajdować się coraz większe grupy ludzi, które w nie uwierzą. To będzie piekielnie trudne do rozstrzygnięcia starcie na wielu poziomach: różnie rozumianej wolności, różnie rozumianego bezpieczeństwa jednostki i różnie rozumianego bezpieczeństwa społeczności. Na to nałożą się poglądy polityczne i czysty biznes.

Czy tego typu rozwiązania to jednak wyłącznie potencjalne zagrożenia? Foliowej czapki na głowie nie noszę, tak więc moja odpowiedź brzmi: nie. Generowanie ludzkiej twarzy, jej modyfikacja, czy zamienianie nią innej, ostatecznie może też służyć czemuś dobremu. Na przykład ściganiu przestępców, nawet po wielu latach. Dziś policja, czy inne organy ścigania, może mieć aktualne zdjęcie przestępcy, ale co może zrobić za dziesięć, czy piętnaście lat, jeśli nie da się go złapać? Tu właśnie rozwiązania typu FaceApp mogą okazać się bardzo pomocne. Nakarmione danymi i wynikami "neuronówki" zapewne w nieodległej przyszłości będą mogły precyzyjnie postarzać człowieka ze zdjęcia. Z wykorzystaniem połączonych systemów nadzoru wideo (kamer CCTV), ukrywanie się przestępców będzie stawać się coraz trudniejsze. Oczywiście, ma to też swoje ciemne strony, bo będzie to też doskonałe narzędzie do inwigilacji każdego z nas, ale to trudno zrzucić winę na samą sztuczną inteligencję, bo wszystko zaczyna się od kamer. No i człowieka, który decyduje o celach i wykorzystania. Rozwiązania stojące za Deepfake to także pole do popisu branży filmowej. Przykładowo postać Clu z filmu Tron (2010) to odmłodzony aktor Jeff Bridges w CGI. Efekt był mało wiarygodny. Mając do dyspozycji opisywane techniki, zdjęcia młodszego aktora, a także innego o podobnej lub takiej samej budowie ciała, ostatecznie można by uzyskać znacznie lepszy efekt.

Coraz trudniej będzie odróżnić Deepfake od rzeczywistości. Walczyć z tym będzie bardzo trudno. Pozostaje jedynie edukacja.

Innym zastosowaniem wspomnianych rozwiązań mogą być personalizowane reklamy. Wyobraźmy sobie, że włączamy telewizor, a tam nasza własna mama (oczywiście to tylko wygenerowana postać) przypomina, że kupuje (lub kupowała) zawsze dżem marki X. U sąsiada ten sam dżem poleca jego tata, córka, albo jego pierwsza miłość. Wystarczy że sztucznej inteligencji uda się powiązać nas z daną osobą - chociażby poprzez serwisy społecznościowe, pocztę, SMS-y, rozmowy telefoniczne, cokolwiek. Każdy będzie oglądał reklamę dosłownie dopasowaną do niego. Dopasowany byłby nie jak dziś obiekt reklamowany, ale treść samej reklamy, z wykorzystaniem osób i/lub obiektów, które znamy, z którymi jesteśmy związani. Brzmi dziwnie, ale sztuczna inteligencja najpierw zapanuje nad naszymi emocjami. To zresztą powoli już zaczyna robić. Czy przejdzie do etapu panowania nad nami fizycznie? Biorąc pod uwagę zmiany klimatyczne na Ziemi, sztuczna inteligencja może nie zdążyć. Może.