Dlaczego nadal ufamy Amazonowi? Jak wielcy technicy nie chronią społeczeństwa

Amazon spodziewał się wiele uwagi publicznej, kiedy ogłosił, że ustanowi swoją nową siedzibę - ale podobnie jak wiele firm technologicznych ostatnio, prawdopodobnie nie przewidział, jak negatywna będzie odpowiedź. Na wybranych terytoriach Amazonki w Nowym Jorku i Wirginii lokalni politycy sprzeciwili się pokusom finansowanym przez podatników obiecanym firmie. Dziennikarze z całego spektrum politycznego panowali nad ofertami - a media społecznościowe zapełniały się głosem oporu New Yorkers i Virginians.

Podobnie, rewelacje, że Facebook wykorzystywał antysemickie teorie spiskowe, aby podważyć legitymację krytyków, wskazują, że zamiast zmieniać Facebook wolałby rozpocząć ofensywę. Nawet gdy Amazon i Apple dostrzegli krótkoterminowe wartości swoich akcji na rynku wartym 1 bilion dolarów, dyrektorzy technologiczni zostali wciągnięci przed Kongresem, usiłowali spójnie zająć stanowisko w sprawie mowy nienawiści, zostali przyłapani na ukrywaniu niewłaściwych zachowań seksualnych i zobaczyli swoich pracowników protestujących przeciwko interesom.

W niektórych kręgach jest to postrzegane jako utrata zaufania publicznego do firm technologicznych, które obiecały przerobić świat - społecznie, środowiskowo i politycznie - lub przynajmniej jako frustracja ze sposobu, w jaki te firmy zmieniły świat. Ale firmy technologiczne muszą zrobić znacznie więcej niż odzyskać zaufanie opinii publicznej; muszą udowodnić, że zasłużyli na to w pierwszej kolejności - co, w kontekście historii krytyki technologicznej i sceptycyzmu, nie.

Patrząc z dala od problemów

Wielkie firmy technologiczne tworzyły swoje projekty w nieco utopijnym, pozytywnie brzmiącym żargonie, który przesłania politykę i politykę publiczną, wykraczając poza stronniczość i - wygodnie - unikając kontroli. Google zwykło przypominać swoim pracownikom: „Nie bądź zły”. Facebook pracował nad „uczynieniem świata bardziej otwartym i połączonym”. Kto mógłby sprzeciwić się tym ideałom?

Uczeni ostrzegali przed niebezpieczeństwami takich platform, zanim jeszcze wielu ich założycieli się urodziło. W 1970 r. Krytyk społeczny i historyk technologii Lewis Mumford przewidział, że celem tego, co nazwał „komputerową”, byłoby „dostarczenie i przetworzenie nieskończonej ilości danych w celu rozszerzenia roli i zapewnienia dominacji systemu energetycznego. „W tym samym roku esej feministki Jo Freemana ostrzegł przed nieodłączną nierównowagą władzy, która pozostała w systemach, które sprawiały, że wszyscy byli równi.

Podobnie w 1976 r. Informatyk Joseph Weizenbaum przewidział, że w nadchodzących dziesięcioleciach ludzie znajdą się w stanie nieszczęścia, ponieważ coraz bardziej polegają na nieprzejrzystych systemach technicznych. Od tamtej pory wydano niezliczone podobne ostrzeżenia, w tym ważne badania naukowe, takie jak badanie informacji przez Safiya Noble, w jaki sposób wyszukiwarka Google replikuje uprzedzenia rasowe i płciowe oraz deklarację medialną Sivy Vaidhyanthan, że „problem z Facebookiem to Facebook”.

Firmy technologiczne są potężne i bogate, ale ich dni unikania kontroli mogą się kończyć. Wydaje się, że amerykańska opinia publiczna zaczyna podejrzewać, że giganci technologiczni nie byli przygotowani i być może nie chcieli przyjąć odpowiedzialności za narzędzia, które uwolnili na świecie.

Po wyborach prezydenckich w USA w 2016 r. Obawy pozostają wysokie, że rządy Rosji i innych zagranicznych rządów wykorzystują każdą dostępną platformę mediów społecznościowych do zasiedzenia niezgody i niezadowolenia w społeczeństwach na całym świecie.

Facebook nadal nie rozwiązał problemów w zakresie prywatności i przejrzystości danych, które spowodowały skandal z Cambridge Analytica. Twitter jest preferowanym megafonem dla prezydenta Donalda Trumpa i domem dla niepokojących ilości brutalnej mowy nienawiści. Przyszłość biur korporacyjnych Amazon kształtuje się jako wielostronna bijatyka wśród wybieranych urzędników i ludzi, których rzekomo reprezentują.

Czy to ignorancja, czy naivete?

Patrząc na obecną sytuację z myślą o historii krytyki technologii, trudno nie stwierdzić, że firmy technologiczne zasługują na kryzysy, przed którymi stoją. Firmy te proszą ludzi o powierzenie im swoich e-maili, danych osobowych, historii wyszukiwania w Internecie i informacji finansowych, do tego stopnia, że ​​wiele z tych firm dumnie twierdzi, że zna osoby lepiej niż oni sami. Promują swoje najnowsze systemy, w tym „inteligentne głośniki” i „inteligentne kamery”, dążąc do tego, aby każdy użytkownik - w każdej chwili przebudzenia - a także w momentach snu - mógł być monitorowany, dostarczając więcej danych do swoich algorytmów zarabiania pieniędzy.

Wydaje się jednak, że nieuchronnie firmy te demonstrują, jak naprawdę są niegodne zaufania, przeciekają dane, dzielą się informacjami osobistymi i nie zapobiegają hackowaniu, ponieważ powoli wypełniają świat niepokojącym techno-paranoją godnym odcinka „Black Mirror”. ”

Odpowiedzi firm technologicznych na każde nowe odkrycie pasują do standardowego schematu: po pojawieniu się skandalu, zaangażowana firma wyraża alarm, że wszystko poszło nie tak, obiecuje zbadać sprawę i zobowiązuje się zrobić lepiej w przyszłości. Jakiś czas - dni, tygodnie, a nawet miesiące - później firma ujawnia, że ​​skandal był bezpośrednim rezultatem tego, jak system został zaprojektowany, i wykręca przerażonego dyrektora, aby wyrazić oburzenie z powodu destrukcyjnych zastosowań złych ludzi znalezionych w ich systemie, nie przyznając, że problemem jest sam system.

Sam Zuckerberg powiedział w Senacie USA w kwietniu 2018 r., Że skandal z Cambridge Analytica nauczył go „mamy obowiązek nie tylko dawać ludziom narzędzia, ale także upewnić się, że te narzędzia są używane na dobre”. w trakcie tworzenia firmy wartej wiele miliardów dolarów.

Odbudowa z tego, co zostało

Korzystanie z dowolnej technologii - od noża do komputera - niesie ze sobą ryzyko, ale wraz ze wzrostem rozmiarów i złożoności systemów technologicznych wzrasta również skala tych zagrożeń. Technologia jest użyteczna tylko wtedy, gdy ludzie mogą z niej bezpiecznie korzystać, w sposób, w którym korzyści przewyższają zagrożenia, i jeśli mogą czuć się pewni, że rozumieją i akceptują potencjalne zagrożenia. Kilka lat temu Facebook, Twitter i Google mogły się wydawać większości ludzi jako łagodne metody komunikacji, które przyniosły społeczeństwu więcej niż zabrali. Ale z każdym nowym skandalem i spartaczoną reakcją coraz więcej ludzi dostrzega, że ​​firmy te stanowią poważne zagrożenie dla społeczeństwa.

Tak kuszące, jak wskazanie przycisku „wyłącz”, nie jest łatwe rozwiązanie. Technologiczni giganci stali się częścią codziennego życia setek milionów ludzi. Sugerowanie, że ludzie po prostu rezygnują, jest proste, ale nie zdaje sobie sprawy z tego, jak wielu ludziom zależało na tych platformach i jak uwięzieni mogą czuć się w coraz bardziej nieznośnej sytuacji.

W rezultacie ludzie kupują książki o tym, jak zły jest Amazon - zamawiając je na Amazon. Prowadzą wyszukiwania Google w poszukiwaniu artykułów o tym, ile informacji Google wie o każdym użytkowniku. Tweetują o tym, jak bardzo nienawidzą Twittera i publikują artykuły na Facebooku na temat ostatniego skandalu na Facebooku.

Firmy technologiczne mogą rządzić coraz bardziej obciążoną bazą użytkowników, ponieważ ich platformy szerzą niezadowolenie w szerszym i szerszym zakresie niż było to możliwe w przeszłości. Mogą też zdecydować się na radykalną zmianę siebie, przełamanie się, przejęcie kontroli nad demokratycznymi decyzjami użytkowników i wzięcie odpowiedzialności za szkody, jakie ich platformy i produkty wyrządziły światu. Jak dotąd jednak wydaje się, że przemysł nie wykroczył poza oferowanie przepraszających przeprosin, jednocześnie kontynuując działalność w zwykły sposób. Mam nadzieję, że to się zmieni. Ale jeśli przeszłość jest jakimś przewodnikiem, prawdopodobnie nie będzie.

Ten artykuł został pierwotnie opublikowany w The Conversation przez Zachary'ego Loeba. Przeczytaj oryginalny artykuł tutaj.