Nasz A.I. Polityka tkwi w przeszłości

Ed Felten, zastępca dyrektora ds. Technologii USA w Biurze ds. Nauki i Technologii w Białym Domu, mówi, że ludzie mają dwa główne obowiązki, jeśli chodzi o rozwój i rozwój sztucznej inteligencji.

Pierwszym, jak mówi, jest „czerpanie korzyści z A.I. rzeczywistość. ”Drugi:„ aby poradzić sobie z ryzykiem A.I. ”

Felten rozmawiał z licznymi ludźmi w nowojorskim Skirball Center for the Performing Arts w A.I. Teraz - letnia seria wykładów współfinansowana przez Biały Dom, której celem było zbadanie i omówienie kluczowych kwestii związanych z przyszłością A.I. technologia.

A.I. jest na rozdrożu, A.I. Teraz współprzewodniczący Kate Crawford (badacz w Microsoft Research) i Meredith Whittaker (założyciel i lider Google Open Research), wskazali. Sektory prywatne i publiczne muszą współpracować, aby stworzyć coś w rodzaju wykonalnego A.I. polityka. Ale problem polega na tym, że podczas gdy firmy technologiczne robią ogromne postępy w kierunku rozwoju rzeczywistego kodu i architektury, które wchodzą w skład A.I. wszechmocna siła, nasze obecne struktury polityki są przestarzałe lub, co gorsza, nieistniejące.

Za długo, A.I. został odrzucony jako futurystyczna koncepcja, nie nadająca się do współczesności. Ale A.I. po cichu przejawił się w polityce miejskiej, przesiewając mnóstwo danych i dostarczając ludziom usługi w sposób, w jaki ludzka moc nie jest w stanie osiągnąć. Felten przytoczył przykłady sposobu, w jaki algorytmy mogą wykorzystywać dane do łączenia ludzi z niedrogimi mieszkaniami lub wymuszać przejrzystość, tak aby społeczeństwo miało dostęp do cennych informacji.

To nie znaczy, że A.I. jest perfekcyjnie; to bardzo dużo nie. Podczas głównego panelu wieczoru Latanya Sweeney, A.I. badacz na Uniwersytecie Harvarda, omówił historię, którą nazwała „Dzień, w którym mój komputer był rasistą”.

Reporter, który przeprowadził wywiad z Sweeneyem, przeszukał jej nazwisko za pośrednictwem Google i odkrył, że jej nazwisko pojawia się w reklamach witryn oferujących gromadzenie i udostępnianie danych dotyczących aresztowań kryminalnych. Sweeney nigdy nie został aresztowany, a jej nazwisko nie było nawet częścią bazy danych witryny - jednak jej nazwisko zostało dostrzeżone w reklamie. Jak każdy dobry naukowiec, Sweeney wziął własne osobiste doświadczenie i przeprowadził badanie i stwierdził, że te reklamy znacznie częściej wymieniają nazwiska czarnych osób niż białych. Powód? Dostarczanie tych reklam przez Google jest wynikiem algorytmu dającego większą wagę temu, co ludzie kliknęli, gdy pojawiły się reklamy. Kiedy czarna nazwa była Googled, więcej osób klikało te reklamy. System poznał wzór i zaczął dostarczać te reklamy z większą częstotliwością.

Jest to cenna lekcja uzasadniająca obietnicę A.I.: ludzie ostatecznie stosują technologię energetyczną, a rasistowskie działania ze strony ludzi mogą wpływać na projektowanie i algorytmy, a nawet na A.I.

Google może łatwo wykryć te uprzedzenia w swoich usługach reklamowych i pracować nad ich poprawieniem. „Zdecydowali się nie”, przekonywał Sweeney.

Czy bardziej nowoczesne ramy polityki mogą zmusić Google do rozwiązania tego problemu? Być może. Nicole Wong, która była poprzedniczką Felten w latach 2013–2014, podkreśliła, że ​​wiele osób - w tym A.I. sami naukowcy - mieli rzeczywisty niepokój o „rosnącą asymetrię władzy” między ludźmi, którzy używają dużych danych, a ludźmi, których ostatecznie dotyczą, od podmiotów danych lub tych, których dotyczyły decyzje podejmowane na podstawie takich danych.

Obawy te nie ograniczają się tylko do sektora prywatnego. Roy Austin, zastępca asystenta prezydenta Rady Polityki Wewnętrznej Białego Domu, poruszył kwestię, jak A.I. może znacznie poprawić egzekwowanie prawa. - lub stworzyć potężne przekroczenie władzy i nadużyć, jeśli chodzi o prywatność cywilów. „Pytanie brzmi:„ Co robimy z tymi danymi? ”- powiedział. Jedną rzeczą jest posiadanie danych, ale kto ma do nich dostęp? Jak długo? Kto będzie miał do niego dostęp? Ponownie, nie mamy odpowiedzi politycznych ani rozwiązań na te pytania i niepewności - i to jest niepokojące, gdy zmierzamy ku przyszłości coraz bardziej kontrolowanej przez A.I.

Trzeci filar niepokoju miał mniej wspólnego z nikczemnymi zastosowaniami A.I. i więcej z tym, jak A.I. a systemy autonomiczne wypierają ludzi z miejsc pracy. Henry Siu, A.I. badacz na Uniwersytecie Kolumbii Brytyjskiej, omówił „rutynowe” zawody (w których pracownicy wykonują bardzo specyficzny zestaw zadań, które prawie nigdy nie odbiegają od ustalonej rutyny) i jak te utrata pracy są najbardziej narażone na zakłócenia w technologii. Automatyzacja spowodowała drastyczny spadek w tych zadaniach - i nie wracają.

Brzmi jak ta sama stara historia industrializacji, ale nie do końca. „Ta rewolucja może już tu być… może być mniej egzotyczna niż przewidywaliśmy” - ostrzegł David Edelman, specjalny asystent prezydenta ds. Polityki gospodarczej i technologicznej. Utrata pracy „nie zdarzy się od razu”. Zarówno on, jak i Siu podkreślili, że rozwiązaniem jest stworzenie klimatu edukacyjnego, w którym ludzie nie przestają chodzić do szkoły, stale zdobywają nowe umiejętności i specjalizacje, które pozwalają im się dostosować z technologia.

Może być pocieszające dla decydentów, aby uświadomić sobie, że Stany Zjednoczone nie są same w rozwiązywaniu tych problemów. Ale jeśli Ameryka zamierza nadal przewodzić A.I., musi to zrobić na arenie politycznej.

Mustafa Suleyman, współzałożyciel Google DeepMind, omówił potencjał A.I. pomoc systemom opieki zdrowotnej i umożliwienie lekarzom algorytmów do diagnozowania niektórych chorób i chorób - zwalnianie czasu dla ludzi na opracowanie metod leczenia. Dla Suleymana, który jest Brytyjczykiem, nie wydawało się to zbyt skomplikowanym pomysłem na stworzenie takiego systemu w szpitalach. Sweeney wskazał jednak, że „w Stanach Zjednoczonych nie masz kontroli nad własnymi danymi” - nie ma żadnych środków regulacyjnych, które zapewniałyby, że informacje nie będą nadużywane. I to jest olbrzymi problem.

„Chcę, żeby wszystko, co mogę wycisnąć z każdego sukcesu technologii” - powiedział Sweeney. „Problem nie leży po stronie technologii; problem polega na tym, że nie nadążamy za polityką publiczną ”.