FBI ostrzega: uważajcie na deepfake'i o charakterze seksualnym. Są tworzone na bazie zdjęć z mediów społecznościowych

Nie jest wielką tajemnicą, że rozwój sztucznej inteligencji stwarza pole do dużych nadużyć. Próby oszukiwania podczas egzaminów czy przypisywanie sobie autorstwa tekstów napisanych przez AI są jednak pomniejszym problemem wobec zagrożenia, przed którym ostrzega FBI. Przestępcy wykorzystują zdjęcia z profilów społecznościowych w celu stworzenia przy użyciu sztucznej inteligencji erotycznych deepfake’ów ofiar, którymi są one potem szantażowane.

W sieci narasta nowe zjawisko, które polega na tworzeniu za pomocą sztucznej inteligencji, na podstawie materiałów z mediów społecznościowych, zdjęć o charakterze seksualnym i szantażowanie ofiar w celu wymuszenia okupu. Sprawą zainteresowało się FBI.

Boty generują coraz więcej ruchu internetowego. Statystyki pokazują jak duży odsetek stanowiły w 2022 roku

Opisywane przypadki to specyficzna odmiana zjawiska określanego mianem "sextortion". Polega ono na wymuszeniu od ofiar okupu pieniężnego lub jakichś innych korzyści pod groźbą upublicznienia zdjęć o charakterze seksualnym. W tym przypadku nie jest to jednak klasyczna wersja zjawiska, ponieważ zdjęcia są generowane przez AI na podstawie zupełnie zwyczajnych fotografii i materiałów wideo udostępnianych w mediach społecznościowych. Sprawa jest na tyle poważna, że zainteresowało się nią FBI, publikując na swoich stronach odpowiedni alert bezpieczeństwa. Wraz z rozwojem sztucznej inteligencji takie przypadki będą zdarzały się z pewnością coraz częściej.

UE wyznaczyła 19 dużych platform technologicznych, które muszą przestrzegać nowych przepisów odnośnie Internetu

Ofiarami padają zazwyczaj zupełnie niewinni użytkownicy mediów społecznościowych, nie wyłączając osób nieletnich. Po wygenerowaniu odpowiednich zdjęć lub filmików są one rozpowszechniane w serwisach internetowych bez żadnej wiedzy ze strony poszkodowanych. Po pewnym czasie niektórzy padają ofiarami szantażu. Przestępcy w zamian za korzyści majątkowe deklarują wstrzymanie dystrybucji podrobionych materiałów. Warto odnotować jednak, że w takich przypadkach zazwyczaj jest już za późno, ponieważ całkowite usunięcie treści z Internetu jest praktycznie niemożliwe.

Unia Europejska chce odpowiedniego nadzoru nad Sztuczną Inteligencją. Generowane treści mają podlegać ścisłej kontroli

FBI sugeruje między innymi odpowiednią selekcję materiałów udostępnianych w mediach społecznościowych, monitorowanie aktywności dzieci w sieci, bardziej rygorystyczną konfigurację ustawień prywatności na platformach społecznościowych i włączenie wieloetapowego uwierzytelniania. Warto też zachować ostrożność w dodawaniu nowych znajomych do swojego profilu. W przypadku stania się ofiarą cyberprzestępców, sugeruje się nieuleganie ich szantażowi. Zazwyczaj zgoda na żądania i tak nie zapobiegnie dalszemu rozprzestrzenianiu materiałów. Internet bardzo często stwarza poczucie złudnego bezpieczeństwa. Łatwo w takiej sytuacji stracić czujność i paść ofiarą przestępców. Dlatego potrzebna jest ostrożność i zdrowy rozsądek, choć, jak widać, nawet to nie gwarantuje pełnej ochrony.