Generator wideo OpenAI Sora tworzy imponujące filmy, ale niestety powiela społeczne uprzedzenia

OpenAI stworzyło innowacyjne narzędzie do generowania filmów, które już teraz przyciąga dużą uwagę mediów i społeczności technologicznej. Jednak wraz z jego imponującymi możliwościami pojawiają się ważne pytania o odpowiedzialność, a także o wpływ sztucznej inteligencji na społeczne postrzeganie różnych grup ludzi. Przyglądamy się kontrowersjom wokół nowej technologii, a także omawiamy reakcję OpenAI i plany firmy na przyszłość.

Wiemy, że Sora nadal może odzwierciedlać szkodliwe stereotypy. Pracujemy ciężko nad ich ograniczeniem – przyznaje OpenAI.

Sora od OpenAI już dostępna. Generator wideo do dyspozycji każdego użytkownika - o ile opłaci subskrypcję

Firma OpenAI zaprezentowała niedawno nową technologię o nazwie Sora, zdolną generować realistyczne materiały wideo na podstawie krótkich opisów tekstowych. Choć rozwiązanie zachwyca technicznymi możliwościami, szybko zwrócono uwagę na istotne problemy. Okazało się, że tworzone filmy często odzwierciedlają negatywne stereotypy społeczne związane z płcią, rasą, a także osobami z niepełnosprawnościami. Analiza kilkuset wygenerowanych filmów wykazała, że narzędzie OpenAI utrwala tradycyjne stereotypy. Zawody postrzegane społecznie jako prestiżowe, takie jak pilot, CEO czy profesor, były zwykle reprezentowane przez mężczyzn. Z kolei kobiety pojawiały się częściej jako stewardesy, recepcjonistki czy też opiekunki dzieci. Osoby z niepełnosprawnościami przedstawiano głównie jako korzystające z wózków inwalidzkich, a osoby o większej wadze rzadko były pokazywane w ruchu.

Nowy generator filmów 4K od Google może się okazać lepszy niż Sora od OpenAI. Firma udoskonaliła także model obrazu Imagen 3

Firma zdaje sobie sprawę z niedoskonałości swojej technologii i otwarcie przyznaje, że narzędzie może wzmacniać szkodliwe uprzedzenia. Według opublikowanej przez OpenAI dokumentacji („System Card”), problem wynika z ograniczonej różnorodności danych treningowych, które wykorzystano do szkolenia algorytmu. OpenAI deklaruje, że prowadzi intensywne prace nad zwiększeniem różnorodności zestawów danych i usprawnieniem systemów kontroli jakości, aby zminimalizować ryzyko utrwalania negatywnych stereotypów przez Sora. Kontrowersje wokół nowego narzędzia pokazują, jak ważne jest odpowiedzialne podejście do rozwoju AI. Chociaż OpenAI obiecuje naprawę błędów, sprawa zwraca uwagę na konieczność zachowania ostrożności przy wdrażaniu takich technologii na szerszą skalę. W najbliższej przyszłości należy się spodziewać aktualizacji, które mają ograniczyć występowanie stereotypów, a także zwiększyć społecznie pozytywny potencjał generatora wideo Sora.