OpenAI wprowadza zmiany do generatora obrazów DALL-E 3. Sztuczne grafiki będą teraz łatwe do zidentyfikowania

W segmencie generatorów obrazów sporo się dzieje w ostatnim czasie. Firmy dążą do tego, aby "sztuczne grafiki" można było w łatwy sposób zidentyfikować. Swoje rozwiązanie wdrożyło już Google (SynthID), a następną firmą w kolejce jest Meta, która niedawno ogłosiła weryfikację grafik na Facebooku, Threads i Instagramie. Teraz do akcji wkracza OpenAI, czyli przedsiębiorstwo odpowiedzialne za generator DALL-E 3. Stworzone przez niego obrazy będą zawierały specjalne metadane.

OpenAI ogłasza, że wszystkie wygenerowane przez DALL-E 3 obrazy będą zawierać metadane, które pomogą w ich weryfikacji. Rozwiązanie, które powiązane jest z firmą Adobe, ma jednak dość istotne wady.

Meta będzie kontrolować treści wygenerowane przez AI na Instagramie, Threads i Facebooku. Materiały są zbyt realistyczne

Powoli wkraczamy do okresu, w którym weryfikacja sztucznie wygenerowanych obrazów będzie coraz łatwiejsza. OpenAI wprowadza rozwiązanie, które oparte jest na standardzie organizacji Coalition for Content Provenance and Authenticity (C2PA). Za jej stworzenie odpowiada Adobe i stowarzyszenie Content Authenticity Initiative (CAI). Dzięki niemu każdy obraz utworzony przez generator obrazów DALL-E 3 (zarówno przez interfejs API usługi, jak i chatbota ChatGPT) będzie zawierał w sobie metadane, które umożliwią ustalenie jego dokładnego pochodzenia. Już teraz możemy się przekonać, jak to wszystko działa. Wystarczy, że wygenerujemy obraz przez wspomnianą usługę, a następnie zweryfikujemy tzw. poświadczenie zawartości na tej stronie.

ImageFX - Google wprowadza swój generator obrazów. W grafikach znajdzie się znak wodny, który widzą tylko maszyny

Wynik takiej operacji możemy zobaczyć na zrzucie ekranu poniżej. Narzędzie od razu wykrywa metadane w grafice i pokazuje znak wodny w lewym górnym rogu. Zawarte w obrazie dane odnoszą się do podmiotu odpowiedzialnego za całą usługę, a także wskazują dokładną datę i godzinę wygenerowania grafiki. Niestety rozwiązanie ma swoje wady. Metadane są często usuwane, kiedy użytkownik udostępnia obraz na różnych mediach społecznościowych. Zrobienie zrzutu ekranu sztucznej grafiki także pozwoli je pominąć. Nie są one więc złotym środkiem, natomiast kierują całą technologię w dobrym kierunku. W przyszłości zapewne zostanie wdrożonych jeszcze więcej rozwiązań, co z pewnością przyczyni się do lepszego rozpoznawania wygenerowanych obrazów.

Weryfikacja obrazu (tzw. poświadczenie zawartości) wygenerowanego przez DALL-E 3 poprzez stronę Content Credentials.