Facebook szkoli AI na prywatnych danych użytkowników

Wiele firm technologicznych posługuje się sztuczną inteligencją i algorytmami głębokiego uczenia. Są one wykorzystywane przez branżę autonomicznych aut po karty graficzne, takie jak seria NVIDIA RTX. Jednak algorytmy AI nie wyszkolą się same i w wielu przypadkach potrzebna jest jeszcze pomoc w postaci czynnika ludzkiego. Zebrane dane przecież trzeba jakoś oznaczyć i skategoryzować. W przeciwnym przypadku AI nie wiedziałoby jakie ma z nich wyciągnąć wnioski. Jeśli stuczna inteligencja w namacalny sposób przyczynia się do polepszenia naszego standardu życia, to raczej nie budzi ten fakt sam w sobie wątpliwości. Co innego jednakże, gdy odbywa się to kosztem naszej prywatności. Agencja Reuters sporządziła teraz opracowanie dotyczące kontraktorów Facebooka, którzy trenowali AI używając do tego wrażliwych danych użytkowników.

Facebook wykorzystuje firmy outsourcingowe do kategoryzowania danych, aby trenować systemy AI. Wątpliwości budzi jednak podejście firmy do prywatności danych.

Raport traktuje o indyjskiej firmie WiPro, liczącej 260 pracowników. Zajmują się oni analizowaniem prywatnych wpisów na Facebooku i Instagramie, kategoryzując w nich pewne treści dla systemów opartych o AI. Kontraktorzy Facebooka określają np. czy umieszczona na Instagramie fotografia była selfie, czy też zdjęciem posiłku. Ponadto rozróżniają także okoliczność wstawienia wpisu (np. urodziny czy ślub) i zamierzenia autora (dowcip, próba zainspirowania innych czy zaproszenie na wydarzenie). WiPro pracuje na statusach użytkowników, plikach wideo, fotografiach, udostępnianych linkach, a także „Stories” na Facebooku i Instagramie. Do każdego typu treści oddelegowanych jest dwóch pracowników, a łącznie każda osoba kategoryzuje po 700 elementów zawartości dziennie.

Sztuczna inteligencja pomoże w walce z propagandą i fake news?

Facebook nie robi niczego nowego w tym temacie. Jest to powszechna praktyka. Nawet system Captcha, który czasem prosi nas o wybranie kilku zdjęć przedstawiających obiekt danego typu jednocześnie służy do poprawiania efektywności AI. Co budzi jednak wątpliwość, to podejście do wrażliwych danych użytkowników. Dla przykładu, przy smart-głośnikach Amazon Echo, naszym „rozmowom” z Alexą może się potem przysłuchiwać ekipa Amazon, która chce usprawnić reagowanie Alexy na komendy. Jeśli chodzi zaś o przypadek Facebooka, to problemem może okazać się sama natura outsourcingu. Firmy pokroju WiPro mogą mieć niższe standardy bezpieczeństwa i prywatności. Co prawda Facebook zapewnia, że nowo wprowadzony system audytów ma na celu dopilnowanie poszanowania prywatności danych. Mimo to, amerykańska korporacja może nadal naruszać regulacje typu RODO. Określają one bowiem również sposób, w jaki technologiczne koncerny mogą zbierać i używać prywatnych danych użytkowników.