Jak nowe centrum UC Berkeley może zapobiec A.I. Apokalipsa

Uniwersytet Kalifornijski w Berkeley właśnie dodał swoją nazwę do rosnącej listy renomowanych instytucji działających na rzecz zapobiegania niszczeniu ludzkości przez złowrogą sztuczną inteligencję. Jego nowe Centrum Sztucznej Inteligencji Kompatybilnej z Człowiekiem, ogłoszone w poniedziałek, ma zapewnić, że A.I. pozostaje korzystny, a także wyklucza A.I. apokalipsa.

Własny A.I. Berkeleya ekspertem jest profesor Stuart Russell. Projekt Open Philanthropy dostarczył Centrum 5,5 miliona dolarów, a także inni. Kilku innych ekspertów z Berkeley, Cornell University i University of Michigan będzie pełnić funkcję głównych badaczy.

Profesor Cornell Bart Selman powiedział Odwrotność o Centrum, A.I.s, że my powinien strach i dlaczego świat prawdopodobnie nie zmierza do piekła w koszyku - jeszcze.

Co zamierzasz osiągnąć dzięki Centrum Kompatybilnego Człowieka A.I.

Centra te są stosunkowo nowym rozwiązaniem. Ludzie dokonują inwestycji - na przykład Instytut Przyszłości Życia ma inwestycję od Elon Musk z Tesli - aby poradzić sobie z kwestiami dotyczącymi przyszłości życia i możliwymi zagrożeniami dla przyszłości życia i społeczeństwa. Nowe centrum w Berkeley jest kolejnym przykładem takiego instytutu.

Inspiruje się zmieniającą się rolą sztucznej inteligencji i informatyki w naszym społeczeństwie. Te technologie przenikają do naszego społeczeństwa i będą miały na nas wpływ. Te instytuty są po to, aby zebrać naukowców w celu zbadania możliwych negatywnych skutków lub jak upewnić się, że nie ma negatywnych skutków.

Sam tytuł Centrum sugeruje, że A.I. a ludzkość jest z natury niekompatybilna. Czy to twój widok?

To pierwsza reakcja ludzi, że te rzeczy mogą być niekompatybilne. Wierzymy, że dzięki odpowiednim środkom ostrożności i odpowiednim wytycznym i badaniom możemy naprawdę dostosować interesy i upewnić się, że technologie te są korzystne. A.I. technologia ma ogromne pozytywne strony, a celem społeczeństwa jest upewnienie się, że pozostaniemy po pozytywnych stronach. Naukowcy zaangażowani w instytut uważają, że jest to wykonalne.

Gdybyś mógł przyjąć perspektywę zagłady, jak wyglądałby najprawdopodobniej scenariusz zagłady wywołany przez A.I.

Wyraźnym zagrożeniem byłby wojskowy rozwój sztucznej inteligencji, który mógłby doprowadzić do wyścigu zbrojeń A.I. broni między krajami: broni autonomicznej, autonomicznych dronów, które stosują się do własnych poleceń, opracowanych przez różne kraje, które są sobie wrogie. To najbardziej konkretne ryzyko, jakie widzę. Myślę, że A.I. opracowany z myślą o samochodach samobieżnych, na przykład - dla regularnych ról w społeczeństwie - będzie bardzo korzystny. Ale aspekt wojskowy jest niepokojącym elementem.

Czy to już ciężka bitwa?

Kraje faktycznie rozważają ten problem. W pewnym sensie jest to ciężka bitwa: wojsko dąży do rozwoju A.I. technologia. Były jednak porozumienia - na przykład broń biologiczna jest prawdopodobnie najbardziej znanym przypadkiem - gdzie kraje w pewnym momencie zdecydowały, że przyniesie to korzyści wszystkim krajom nie rozwijać broń biologiczną na dużą skalę. Mamy nadzieję, że kraje zdadzą sobie sprawę z tego, że minusem dla wszystkich jest zbyt duże, aby przejść do wszechstronnego A.I. Wyścig zbrojeń.

Jeśli obie strony rozwiną tę technologię, nikt nie jest na czele.

Czy powinienem wiedzieć coś więcej o Centrum lub o złym A.I. ogólnie?

Ważne jest, aby dać pozytywną stronę. Łatwo jest podkreślić ryzyko - i oczywiście po części dlatego te centra są założone - ale ważne jest również, aby podkreślić, że wielu badaczy uważa, że ​​ryzyko to jest możliwe do opanowania, a korzyści będą ogromne.

Dałeś już perspektywę zagłady. Jakie są potencjalne pozytywne zastosowania A.I. że jesteś naprawdę podekscytowany?

Pozytywne strony to społeczeństwo, w którym pomaga nam ta technologia. Tłumaczenie symultaniczne - na przykład między chińskim a angielskim - gdzie ludzie mogą po prostu rozmawiać, jakby mówili w języku ojczystym, ze sobą na całym świecie. Opieka nad osobami starszymi: ludzie mogą przebywać w domu tak długo, jak chcą, ponieważ mają robota domowego asystenta, który pomaga im żyć samodzielnie.

To prawdopodobnie będzie miało dość dramatyczny wpływ na życie w ogóle - jeśli chodzi o zatrudnienie i to, co traktujemy priorytetowo.

Tak. Prowadzona jest debata na temat zatrudnienia, która ma charakter osobnej debaty. Będą wystarczające zasoby, aby wesprzeć wszystkich, więc jest kwestia tego, jak dbamy o to, aby wszyscy czerpali korzyści z tych zmian. Nastąpi ponowna realizacja tego, co oznacza praca, jaką pracę wykonają ludzie. Ale w zasadzie ludzie będą mieli więcej swobody i więcej czasu na czynności, które lubią robić, ponieważ maszyny pomogą w wielu innych, bardziej przyziemnych, praca rzeczy typu. Zajmie to trochę czasu, ale wierzymy, że społeczeństwo dostosuje się i powoli wprowadzi te zmiany.

Ten wywiad został zredagowany dla jasności i zwięzłości.