Meta będzie kontrolować treści wygenerowane przez AI na Instagramie, Threads i Facebooku. Materiały są zbyt realistyczne

Wszelkie generatory obrazów stają się coraz lepsze, a wiele z nich już teraz pozwala na uzyskanie dosłownie fotorealistycznych grafik. Oczywiście technologia ta stwarza mnóstwo zagrożeń na wielu polach, dlatego coraz więcej firm podejmuje działania, aby odpowiednio zidentyfikować źródło obrazu. Ostatnio takie rozwiązanie wprowadziło Google, a teraz adekwatne kroki podejmuje Meta. Materiały, które zostały stworzone przez AI, zostaną oznaczone w usługach firmy.

Już niebawem obrazy pojawiające się na Facebooku, Instagramie oraz Threads zostaną odpowiednio oznaczone, jeśli zostały wygenerowane przez AI. Każdy użytkownik będzie musiał przyznać, jakie jest prawdziwe źródło udostępnianego materiału. 

Meta wprowadza nowy generator obrazów. Prawdziwa konkurencja dla DALL-E 3 i Midjourney, która w dodatku jest darmowa

Działania Mety są poniekąd związane z wyborami prezydenckimi w USA, które odbędą się już w listopadzie 2024 roku. Fakt, że obrazy tworzone przez algorytmy AI są dziś coraz cięższe do odróżnienia od prawdziwych, z pewnością odgrywa tu główną rolę. Dlatego w wymienionych już usługach firmy wszystkie grafiki będą odpowiednio oznaczone, aby nikogo nie wprowadzić w błąd. Dodatkowo każdy użytkownik, który udostępni zdjęcie, film lub nagranie audio, będzie musiał odpowiedzieć, czy dany materiał jest sztucznie wygenerowany. Meta pracuje już nad algorytmami, które mają wykrywać właśnie takie treści. Jeśli jakaś osoba skłamie w tym aspekcie, będzie musiała liczyć się z konsekwencjami (od ostrzeżeń po usunięcie postu).

ImageFX - Google wprowadza swój generator obrazów. W grafikach znajdzie się znak wodny, który widzą tylko maszyny

Generator obrazów od Mety od samego początku oznacza stworzone w ten sposób grafiki, co ilustruje poniższy przykład. Google poczyniło podobne działania (SynthID), natomiast cyfrowy znak wodny umieszczany jest bezpośrednio w wygenerowanej ścieżce audio lub grafice i nie jest widoczny dla ludzi - jednak maszyny mogą go łatwo rozpoznać. Podejmowane przez duże firmy kroki stają się powoli koniecznością, wszak rozpoznawanie sztucznych treści jest coraz trudniejsze, a czasem wręcz niemożliwe. Fake newsy już teraz są bardzo szkodliwe i wiele osób daje się złapać w tę pułapkę, ponieważ nie weryfikuje do końca informacji. Nowe możliwości są więc realnym zagrożeniem, gdyż niektórzy używają technologii w celach manipulacyjnych.

Przykład wygenerowanej grafiki ze znakiem wodnym "Imagined with AI"