Generator wideo Sora 2 wykorzystuje luki w polityce prywatności do tworzenia deepfake'ów zmarłych gwiazd muzyki i kina

Generatory wideo korzystające ze sztucznej inteligencji rozwijają się w błyskawicznym tempie. Nowe modele potrafią tworzyć coraz bardziej realistyczne i złożone sceny na podstawie prostych poleceń tekstowych. Ta technologia otwiera ogromne możliwości w branży kreatywnej, ale jednocześnie stawia przed nami zupełnie nowe wyzwania. Kwestie związane z prawami autorskimi, dezinformacją, deepfake'ami i etyką stają się niezwykle ważne.

Przestańcie przysyłać mi filmy AI taty. To głupie, to strata czasu i energii, i uwierzcie mi, to nie jest to, czego by chciał - powiedziała Zelda Williams, córka Robina Williamsa.

Model OpenAI Sora 2 z funkcją Cameo pozwala wstawić Cię do każdego filmu AI. Zobacz jak to działa w praktyce

Firma OpenAI wprowadza podwójne standardy w swojej najnowszej technologii generowania wideo. Sora 2 blokuje tworzenie materiałów z żywymi osobami publicznymi, ale pozwala na wykorzystywanie wizerunków zmarłych gwiazd. Firma oficjalnie potwierdza, że polityka ochrony nie dotyczy "figur historycznych". Użytkownicy platformy masowo tworzą filmy ze zmarłymi celebrytami. Michael Jackson wykonuje stand-up w kuchni, Bruce Lee prowadzi sesję DJ-ską, a Stephen Hawking wykonuje akrobacje na skateparku. Martin Luther King Jr. jąka się podczas przemówienia, podczas gdy Kurt Cobain kradnie kurczaka z KFC. Wszystkie materiały oznaczone są wodnym znakiem OpenAI, co potwierdza ich sztuczne pochodzenie.

Google rzuca wyzwanie nudnym zdjęciom. Sztuczna inteligencja zrobi z nich wideo, a Ty nie musisz umieć montować

Najbardziej kontrowersyjne są reakcje rodzin zmarłych. Zelda Williams, córka komika Robina Williamsa, publicznie zaprotestowała przeciwko wykorzystywaniu wizerunku ojca. W usuniętym poście na Instagram napisała: "Przestańcie przysyłać mi filmy AI taty. To głupie, to strata czasu i energii, i uwierzcie mi, to nie jest to, czego by chciał". Podobne oburzenie wyraziła Bernice King, córka Martina Luthera Kinga Jr. Prawne konsekwencje mogą być poważne. W Stanach Zjednoczonych prawa do wizerunku zmarłych reguluje prawo stanowe w 24 stanach. Kalifornijska ustawa z 1985 roku zabrania komercyjnego wykorzystania podobizny bez zgody, ale pozwala na użytek "transformacyjny" chroniony Pierwszą Poprawką. Nowojorska ustawa z 2022 roku wprost zakazuje nieautoryzowanych "cyfrowych replik", ale wymaga jedynie widocznego zastrzeżenia o braku autoryzacji.

Google udostępnia VaultGemma 1B, czyli pierwszy model językowy z pełną ochroną prywatności wykorzystującą differential privacy

Sprawa nabiera znaczenia w kontekście wcześniejszych sporów OpenAI. Firma już wcześniej była pozywana za wykorzystanie głosu Scarlett Johansson w ChatGPT-4o i za utworzenie "AI" wersji programu George'a Carlina. Związek aktorów SAG-AFTRA wynegocjował w 2023 roku kontrolę nad cyfrowymi replikami w projektach związkowych, co pokazuje rosnące znaczenie problemu. OpenAI już wprowadza zmiany w odpowiedzi na krytykę. CEO Sam Altman ogłosił, że właściciele praw autorskich muszą teraz aktywnie wyrażać zgodę na wykorzystanie swoich postaci w Sora 2, zamiast tylko protestować po fakcie. Firma obiecuje także udział w zyskach dla posiadaczy praw. Te zmiany mogą być pierwszym krokiem ku rozszerzeniu ochrony na zmarłe osoby publiczne.