Aplikacje do zdjęć w 2023 wciąż nie potrafią prawidłowo rozpoznać większość istot człekokształtnych - mimo upływu ośmiu lat od afery

Niektóre z błędów programistycznych potrafią być niezwykle kosztowne nie z uwagi na aspekt techniczny, ale kulturowy. Zaszyte w kodzie (przypadkiem lub nie) wykluczanie jednej z płci czy dyskryminacja ze względu na wiek mogą trafić do mediów w znacznie gorszy sposób niż spadki wydajności czy nieprzemyślany interfejs. Czasami w przypadku braku umiejętności naprawy danego błędu wyłącza się całą funkcję lub jej odpowiedni segment.

New York Times - w dobie rozwoju modeli sztucznej inteligencji i wspaniałych obrazów tworzonych magiczną różdżką - postanowił wrócić do pewnego problematycznego automatycznego rozpoznawania obiektów na zdjęciu w przypadku aplikacji Google'a. Mianowicie do kategoryzacji gorylów, które w 2015 roku często myliły się oprogramowaniu z ludźmi o ciemnej karnacji.

Midjourney V5 - nadchodzi kolejna generacja oprogramowania tworzącego obrazy z tekstu. Efekty są imponujące

Odpowiedzią korporacji na zaistniały problem było wyłączenie w silniku rozpoznawania obiektów na zdjęciu małp w ogólności. Uznano, że lepiej pozbyć się tej możliwości niż ryzykować oznaczanie użytkowników jako goryle. Jednocześnie od 2015 roku nastąpił ogromny rozwój w dziedzinie rozpoznawania wydarzeń na zdjęciu, dlatego też redakcja New York Times postanowiła przetestować problem w środowisku Google, Apple, Microsoft oraz Amazon. Zgodnie z oczekiwaniami, trening sztucznej inteligencji na milionie obrazów z repozytorium powinien doprowadzić do umiejętności wykonania takiego zadania. Nawet jeśli technologia regularnie spotyka problemy związane z różnorodnością człowieka w często zaskakujących scenariuszach (jak bolączki Apple Watch z pomiarem poziomu tlenu we krwi u niektórych osób).

Poradnik - Sztuczna inteligencja generuje przepiękne obrazy. Jakie możliwości ma Adobe Firefly i jak z niego korzystać?

Co wyszło redakcji NYT? Dla porządku najpierw sprawdzono możliwości oprogramowania w zakresie wyszukania kotów i kangurów w zbiorze 44 różnych zdjęć, co udało się bez problemów. Niestety jednak próby poszukiwań goryli, pawianów, szympansów, orangutanów i małp spełzły na niczym pomimo ewidentnej obecności tych stworzeń w zbiorze. Podobny proces zaszedł w przypadku aplikacji od Apple, zaś produkty Amazona i Microsoftu generowały różnego rodzaju błędy wykluczające ich uwzględnianie w teście. Tylko jeden gatunek małp udało się poprawnie rozpoznać w przypadku producentów mobilnych systemów operacyjnych - lemury. Z jednej strony może to ukazywać pozorność postępu w przypadku najdziwniejszych zadań. Z drugiej - obawy autorów przed popełnieniem politycznej gafy.