Technologie rozpoznawania twarzy FBI nie szanują Twojej prywatności i praw

Kto jest watchdogiem? Rządowe Biuro Odpowiedzialności, jak sugeruje jego tytuł. Niedawny raport GAO na temat stosowania przez rząd technologii rozpoznawania twarzy trafił do publicznej wiadomości w środę. Zasadniczo mamy sytuację. Zła sytuacja. W skrócie: dzięki programom rozpoznawania twarzy FBI narusza Twoją prywatność i nie informuje Cię o tym. Ponadto FBI nie sprawdza, czy te programy są dokładne i niezawodne.

FBI i biometria cofają się - relacja miłosna rozpoczęła się od baz danych odcisków palców. Ale teraz idzie znacznie dalej. „Biometria” dla FBI i według GAO oznacza „zautomatyzowane rozpoznawanie osób na podstawie ich cech biologicznych i behawioralnych”. W 2011 r. FBI wdrożyło pilotaż swojego systemu „Identyfikacji następnej generacji” (NGI); cztery lata później, w kwietniu 2015 r., był w pełni operacyjny.

NGI częściowo korzysta z Interstate Photo System (IPS) dla tych tak zwanych danych biometrycznych. Ta baza danych - oprócz zewnętrznych baz danych firm prywatnych - zapewnia agencjom rządowym dostęp do ponad 411 milion zdjęcia twarzy (obecna populacja USA to tylko 319 milionów). Departament Sprawiedliwości twierdzi, że większość tych zdjęć pochodzi z ujęć z kubków - „Ponad 80 procent zdjęć w NGI-IPS to przestępstwa” - ale także współpracują z wieloma państwami, aby uzyskać dostęp do licencji kierowcy i zdjęć paszportowych. GAO mówi, że moment a posądzać jest „zarezerwowany na przestępstwo”, znajduje się w książkach - tj. w NGI-IPS.

Z raportu nie wynika dokładnie, jak bardzo FBI zabrało się za zdjęcia z mediów społecznościowych. FBI twierdzi, że nie zawiera ich w NGI-IPS, ale ich używa:

„… Zdjęcia zrobione z kamer bezpieczeństwa lub zdjęć z mediów społecznościowych nie są zapisywane w NGI-IPS… Według FBI zewnętrzne bazy danych zdjęć nie zawierają prywatnych zdjęć ani zdjęć z mediów społecznościowych, a FBI nie utrzymuje tych zdjęć; wyszukuje tylko przeciwko nim. ”

Ale warto zauważyć, jak wiele może być mediów społecznościowych z kopalni złota. Aplikacja fotograficzna na komputerze ma możliwość rozpoznawania Ciebie i Twoich znajomych. Facebook też to robi i jest niepokojąco dobry w katalogowaniu każdej osoby na zdjęciu. Za każdym razem, gdy używasz obiektywu Snapchat, Snapchat odwzorowuje unikalne kontury twarzy. I to nie koniec - te technologie są praktycznie wszędzie.

Niezależnie od tego, nie tylko FBI dobrze się bawi na twarzy: dostęp rozciąga się na lokalne wydziały policji. (Jest też to: „System rozpoznawania twarzy Departamentu Obrony służy do wspierania wojowników w terenie do identyfikacji wrogich bojowników”.) FBI jest jedyną agencją, w której działa bezpośredni dostęp, ale wszyscy inni mogą po prostu poprosić o dostęp. Po uzyskaniu dostępu dana agencja wysyła zdjęcie do FBI i żąda określonej liczby potencjalnych meczów. (Zdjęcie może być wysokiej rozdzielczości, ale znając kamery bezpieczeństwa, prawdopodobnie nie.) Gdy już tam dotrzesz, NGI-IPS uruchamia zdjęcie poprzez swoją bazę danych, a następnie, jak mówi GAO, „ludzka analiza musi zostać przeprowadzona”. Zespół „29 przeszkolonych specjalistów w dziedzinie biometrii w FACE Usługi w zakresie analizy porównawczej twarzy” daje ostatnie słowo. W końcu wymagana liczba potencjalnych meczów wraca do agencji. To od tej agencji zależy, czy podejrzani są rzeczywistymi podejrzanymi.

Oto jak to działa:

„W szczególności technologia wyodrębnia funkcje z twarzy i umieszcza je w formacie - często określanym jako wzór - który można wykorzystać między innymi do weryfikacji. Po utworzeniu wzorca technologia może użyć algorytmu rozpoznawania twarzy, aby porównać ze sobą wzorce, aby uzyskać pojedynczą wartość punktacji, która reprezentuje stopień podobieństwa między dwoma twarzami. ”

W zależności od znajomości fantastyki naukowej może się to wydawać wiarygodnym, godnym zaufania systemem. To nie jest. Tutaj jest Sekcja nagłówek w raporcie GAO:

„FBI ma ograniczone informacje na temat dokładności swoich możliwości technologii rozpoznawania twarzy”.

Wszystko, o czym FBI wie, to kiedy zrobił przetestuj wskaźnik dokładności 50-potencjalnych dopasowań programu - co zrobił, niepokojąco, z testową bazą danych, a nie rzeczywistą bazą danych - był 86% dokładny. FBI „nie oceniło dokładności wyszukiwania rozpoznawania twarzy w NGI-IPS w ustawieniach operacyjnych - ustawienie, w którym zapisywane zdjęcia, a nie baza danych testów zdjęć - są wykorzystywane do wyszukiwania tropów dochodzeniowych.” dbać o to, jak dokładne są systemy rozpoznawania twarzy zatrudnionych przez prywatne firmy: nie ma audytów.

Osiemdziesiąt sześć procent dokładnych. Innymi słowy: około czterech na pięć gwiazdek. Jeśli lokalna restauracja sushi ma cztery z pięciu gwiazdek, warto rozważyć zamówienie na wynos. Ale tak samo jak niewielka liczba recenzji może wypaczyć ocenę restauracji, tak samo wysoki liczba potencjalnych meczów może zniekształcić dokładność NGI-IPS. Pięćdziesiąt potencjalnych meczów to maksymalna liczba agencji, o które można poprosić; system może wypluć tak mało jak dwa. GAO mówi, że im mniejsza lista, tym mniej dokładny jest system.

Jest też cała nieznośna fałszywie pozytywna rzecz. „Przedstawiciele FBI oświadczyli, że nie ocenili, jak często poszukiwania rozpoznawania twarzy przez NGI-IPS błędnie dopasowują osobę do bazy danych (współczynnik fałszywie dodatni).” Fałszywe pozytywy są - przepraszam za mój język - poważne pieprzone, ponieważ „mogą zmienić tradycyjne domniemanie niewinności w sprawach karnych poprzez nałożenie na oskarżonego większego ciężaru, aby wykazać, że nie jest tym, za kogo system się identyfikuje ”. System może załamać się na każdym końcu równania: jeśli zdjęcie jest niskiej jakości, wskaźnik sukcesu spada; jeśli oprogramowanie jest niskiej jakości, wskaźnik sukcesu spada. Niski wskaźnik sukcesu oznacza wiele fałszywych trafień.

GAO, po wypełnieniu raportu, przedstawił sześć rekomendacji prokuratorowi generalnemu USA Loretcie Lynch i dyrektorowi FBI Jamesowi Comeyowi. Istota: Departament Sprawiedliwości ma problem z kryciem. Opinia publiczna może wiedzieć, że naruszana jest jej prywatność, ale opinia publiczna nie wie konkretnie w jaki sposób jego prywatność jest naruszana. Ponadto Departament Sprawiedliwości musi zaradzić brakowi nadzoru, aby zapewnić minimalny poziom prywatności. Wreszcie Departament Sprawiedliwości musi upewnić się - aczkolwiek z mocą wsteczną - że programy te są wiarygodne.

Departament Sprawiedliwości zgodził się, w całości, na jedno zalecenie. „Częściowo zgodziła się” z dwiema innymi, ale odrzuciła pozostałe trzy - z których dwie próbowały ustalić wytyczne dotyczące dokładności.