Google walczy z deepfakesami... tworząc kilka tysięcy własnych

Niemal każda zdobycz technologii w obecnych czasach niesie ze sobą tyle dobrego, co złego. Z pozoru fajnie jest się pośmiać z Indiany Jonesa, którego gra Nicolas Cage i innych eksperymentów z cyfrowym "przeszczepianiem" twarzy. Jednakże tzw. deepfakes mogą być używane również do manipulacji i dezinformacji na przykład w kontekście politycznym. I wtedy już tak zabawnie nie jest. No chyba, że lubimy – niczym Joker Heatha Ledgera – patrzeć jak po prostu świat płonie. Firmy takie, jak Facebook, Microsoft i Google od maja tego roku rozpoczęły wraz z MIT i uniwersytetem Oxforda inicjatywę mającą na celu walkę z deepfakesami. Google właśnie poczyniło poważny krok, który może pomóc firmom, organizacjom i organom rządowym w wykrywaniu i usuwaniu tego typu manipulacji.

Google stworzyło zestaw 3000 deepfake'ów i umieściło je na Githubie, tak aby eksperci od zwalczania dezinformacji mogli wytrenować własne narzędzia do wykrywania zmanipulowanych materiałów.

Google postanowiło dołożyć swoje trzy grosze w temacie zwalczania deepfakesów i... umieściło więcej deepfake'ów. Intencje wydają się tutaj jednak pozytywne. Gigant z Mountain skompilował repozytorium złożone z 3000 zmanipulowanych materiałów wideo. Google nagrało 28 aktorów w różnego rodzaju scenach, a następnie korzystając z dostępnych metod generowanie deepfake'ów stworzyło własne, zmodyfikowane treści. Badacze pracujący nad narzędziami do wykrywania cyfrowej manipulacji, bazując na zbiorze dostarczonym przez Google, będą mogli usprawnić swoje rozwiązania służące do wykrywania manipulacji.

Deepfake w czasie rzeczywistym. FSGAN niebawem na GitHub

Google już teraz zapowiedziało, że będzie systematycznie wprowadzać nowe nagrania tego typu, aby nadążyć za niezwykle szybko ewoluującymi technikami tworzenia deepfake'ów. Oprócz tego nad podobną bazą nagrań pracuje także Facebook. Firma Marka Zuckerberga pragnie udostępnić swoje materiały tuż przed końcem roku. Wydaje się, że od teraz giganci technologiczni będą się bawić w kotka i myszkę – twórcy fałszywek będą nieustannie rafinować swoje metody, odbijając ciągle piłeczkę do badaczy pragnących je wyeliminować. Niektórzy, na przykład David Greene z fundacji Electronic Frontier uważają, że aby zapanować nad deepfakesami należy podejść do nich nie ze strony technologicznej, lecz stworzyć odpowiednie ustawy je regulujące i uwzględniające kontekst ich użycia.