Elon Musk mówi nawet łagodny A.I. Czy „mieć dość zły wynik”

Elon Musk ma dobrze udokumentowany strach przed złą sztuczną inteligencją, więc nie jest niespodzianką, że filmowiec Werner Herzog szukał go za Lo i Behold: Reveries of Connected World.

Ale w dokumencie Herzoga strach Muska nie jest wszechmocny, Terminator styl A.I. roboty. Zamiast tego, potentat technologiczny martwi się o A.I. to robi wszystko, aby wykonać swoje zadanie.

„Największym ryzykiem nie jest to, że A.I. opracuje własną wolę ”, mówi Musk w krótkim klipie nowego filmu uzyskanego przez Fortuna. „Ale raczej będzie podążać za wolą funkcji użyteczności lub funkcji optymalizacji”.

Herzog, człowiek, który stworzył Grizzly Man, jest bardziej dostrojony do natury niż przyszłe technologie. Sądząc po wczesnych zwiastunach i recenzjach z premiery filmu dokumentalnego na Festiwalu Filmowym w Sundance w styczniu, cały dokument ma trochę luddytowego pochylenia.

To ma sens, że Herzog wyciągnie rękę do Muska, aby głębiej zrozumieć, jak będzie wyglądał świat w przyszłości. Musk jest przecież człowiekiem, który kształtuje autonomiczne pojazdy elektryczne na świecie, podróże kosmiczne i nauczanie Reddit A.I. W przypadku A.I. Musk widzi zagrożenie wokół każdej linii kodu.

„Jeśli nie jest dobrze przemyślany, nawet jeśli jego zamiar jest łagodny”, mówi Musk, „może to mieć bardzo zły wynik”.

Weź A.I. zarządza funduszem hedgingowym lub funduszem private equity, sugeruje Musk. Jedynym zadaniem A.I. jest maksymalizacja portfela funduszu. Brzmi prosto i niewinnie. Ale powiedzmy A.I. zdaje sobie sprawę, jak najlepiej zrobić Michaela Burry / Duży skrót Kwota pieniędzy jest przeznaczona na krótkie akcje konsumenckie, długo na zapasach obronnych, a następnie wymyślić sposób na rozpoczęcie wojny (prawdopodobnie za pośrednictwem jej przyjaciół A.I. w Departamencie Obrony)?

To nie jest że tam pomysł. To trochę śliskie zbocze, ale nie niewyobrażalne. Oczywiście nie zdarzy się, jeśli ludzie po prostu wezmą radę Musk i użyją neuronowej koronki, aby bezproblemowo zintegrować się z A.I.

Oto i oto będzie w wybranych kinach i dostępny na Amazon, Google Play i iTunes 19 sierpnia.