Microsoft postępuje przestępczo z aplikacją, która przewiduje recydywizm

Podczas webcastu z departamentami policji na początku tego roku starszy programista Microsoft pozwolił prześledzić, że firma była głęboko zaangażowana w tworzenie aplikacji, która może przewidzieć, czy więzień wróci za kratki sześć miesięcy po premierze.

„Chodzi o oprogramowanie, które potrafi przewidzieć przyszłość” - powiedział programista Jeff King.

Jeszcze nie nazwana aplikacja działa, analizując historię więźnia za pomocą - co jeszcze? - skomplikowany algorytm, który King powiedział, że jest do 91 procent dokładny. Kilka przykładów czynników, które powiedziałby King: przynależność do gangu, udział w programie rehabilitacji, naruszenia w czasie służby i godziny w segregacji administracyjnej. W rzeczywistości nie jest tak daleko od czynników, które rozważają rady ds. Zwolnienia warunkowego przy ustalaniu, czy zwolnić więźniów.

Brzmią jak rozsądne predyktory, dopóki nie uznasz, że oceniani więźniowie mogą nie mieć większego wyboru, w jaki sposób spędzili swoje uwięzienie. Tak jak Ekonomista zauważa, że ​​gangi więzienne nie były nawet czymś aż do drugiej połowy XX wieku, kiedy uwięziona populacja eksplodowała, a życie za kratkami stało się tak niebezpieczne, że ludzie zapisali się jako forma ochrony, której strażnicy nie zapewniali. Jeśli chodzi o rehabilitację, w ciągu ostatniej dekady stany gotówkowe zmniejszyły fundusze na te programy o setki milionów - Kalifornia w 2011 r. W szczególności obniżyła 250 milionów dolarów z leczenia uzależnień, szkoleń zawodowych i programów edukacyjnych. To przynajmniej częściowo winę za wskaźnik osadzonych, którzy podjęli program rehabilitacji znacznie niższy niż 20 lat temu. Nakładanie na osadzonych obowiązku udowodnienia, w jaki sposób przystosowują się do więzienia, jednocześnie zwalniając więzienie z polityki bardziej skłonnej do wznowienia recydywy, w najlepszym razie mówi połowę historii.

Następnie pojawia się pytanie, co robimy z Microsoftem Raport mniejszości wartościowe. Czy ex-con dostanie więcej usług socjalnych, aby pomóc mu uniknąć ponownego popełnienia przestępstwa? Czy rady ds. Zwolnienia warunkowego rozważą opinię algorytmu? Czy niski wynik zostanie wykorzystany do uzasadnienia dłuższych wyroków więzienia? A co z uzasadnieniem obowiązkowego skazania, polityki, która historycznie wyrządziła więcej szkody niż pożytku.

Kiedy złamał przewidywalne plany Microsoftu Połączenie Daniel Rivero napisał, że przemówienie Kinga „praktycznie pozostało niezauważone”, z około 100 odsłonami mowy YouTube. (Dobre oko, Danielu.) Może to poszło pod radar, bo to już nie jest takie zaskakujące. Algorytmy przewidywania przestępczości i argumenty dotyczące ich niuansów i implikacji moralnych są coraz bardziej powszechne. Japońska firma Hitachi ma pół tuzina amerykańskich miast zaangażowanych w test sprawdzający koncepcję systemu, który według firmy może pomóc przewidzieć przestępstwa, analizując liczby historycznych statystyk przestępczości, map transportu publicznego, raportów pogodowych, a nawet mediów społecznościowych. Na niższym poziomie technologicznym Chicago prowadzi „listę ciepła” potencjalnych przestępców, którzy losowo odwiedzają policję niezależnie od tego, co robili. A Los Angeles rozważa zautomatyzowany czytnik do skanowania tablic rejestracyjnych każdego samochodu, który jeździ tylko samochodem Blisko obszar odwiedzany przez prostytutki i wysyłający list „Drogi Johnie” na nazwisko w rejestracji pojazdu. Coraz częściej najlepszą prognozą, jaką możemy ci dać, jest to, że twoja przyszłość będzie obserwowana i oceniana przez ogromną ilość obcych inteligencji. Ale hej, przynajmniej będziesz miał hoverboard.