Niewinny człowiek trafił do celi przez rozpoznawanie twarzy. Algorytm rzucił 93% zgodności, policja dopisała resztę

Rozpoznawanie twarzy promowane jest jako narzędzie pomagające zawęzić krąg podejrzanych. Problem pojawia się, gdy algorytmiczne wskazanie zaczyna zastępować zwykłą weryfikację faktów. Pokazuje to sprawa Roberta Dillona z Florydy. System FACES dopasował go do słabej jakości nagrania z monitoringu, wskazując 93% zgodności. Mimo pominięcia istotnych rozbieżności wydano nakaz aresztowania, a błędna identyfikacja wywróciła jego życie do góry nogami.

Florydzka policja potraktowała wynik z systemu FACES jak gotową odpowiedź, choć obok leżały dowody, które powinny ten trop wyrzucić do kosza. Gdy biometria przestaje być wskazówką, a zaczyna zastępować śledztwo, rachunek płaci już nie algorytm, tylko człowiek.

Amazon i Ring Familiar Faces pod lupą sądu. Pozew zbiorowy uderza w biometrię w domowym monitoringu

Według pozwu i relacji mediów śledczy z Jacksonville Beach oparli sprawę na zdjęciach zrobionych ekranowi komputera, na którym wyświetlał się monitoring. Taki materiał ma marną jakość już na starcie, a później robi się jeszcze grzej. Mimo to Face Analysis Comparison and Examination System, czyli FACES, zwrócił dane Dillona z 93-procentowym dopasowaniem. Ten wynik nie oznacza 93 proc. szans, że znaleziono sprawcę. To tylko miara podobieństwa wzorców biometrycznych. Policja miała to w swoich procedurach czarno na białym.

OpenAI i Sam Altman pozwani przez Florydę po zbrodniach łączonych z ChatGPT. Chodzi o brak zabezpieczeń dla nieletnich

Najmocniejsze w tej historii jest co innego. Funkcjonariusze mieli pod ręką materiały, dzięki którym taki trop powinen być od razu odrzucony. Dillon mieszka ponad 300 mil od Jacksonville Beach, jego auto nie pojawiło się w odczytach tablic rejestracyjnych LPR w Duval County, a on sam mówił, że nigdy tam nie był. Dodatkowo ma on charakterystyczną bliznę biegnącą od linii włosów do nosa. Pracownica McDonald’s opisywała podejrzanego jako stałego klienta. To też średnio pasuje do człowieka z drugiego końca stanu. Zarzuty spadły po 69 dniach od aresztowania, ale noc w celi, koszty kaucji i mugshot (fotograficzny portret osoby aresztowanej lub podejrzanej o popełnienie przestępstwa, wykonywany bezpośrednio po zatrzymaniu) krążący po sieci już nie zniknęły.

Bolt pod lupą UOKiK. Spór o zmiany regulaminu, awarie aplikacji i odpowiedzialność za szkody w usłudze mikromobilności

Dla zwykłego użytkownika sens tej sprawy jest prosty i mało pocieszający. Jeśli urząd potraktuje biometrię jak dowód, techniczna pomyłka szybko zamienia się w realną karę. Na tle innych wdrożeń w USA FACES nie błyszczy niczym poza liczbą wpadek. ACLU mówi już o 15 znanych błędnych aresztowaniach po użyciu rozpoznawania twarzy, a WESH opisał na Florydzie podobny przypadek Beau Burgessa. Czytelnicy widzieli ten temat wcześniej przy pozwie przeciw Amazon Ring Familiar Faces i przy apelach Microsoftu o regulację tej technologii. Tam chodziło głównie o prywatność. Tutaj dochodzi stary policyjny odruch, skoro algorytm już coś lub kogoś wskazał, to ktoś musi za to zapłacić i już.