HAL9000 Display Screensaver [About 3 Hours]
Jak powstrzymać przyszłość A.I. od nieposłuszeństwa rozkazom i wybrania własnej drogi? Może brzmieć jak fabuła 2001: Odyseja kosmiczna, ale jeden ekspert twierdzi, że jest to coś, o czym być może musimy zacząć myśleć. Oczywiście, moglibyśmy wyłączyć algorytm wyszukiwania Google, jeśli kiedykolwiek stał się nieuczciwy, ale w obliczu konsekwencji finansowych i prawnych może być łatwiej powiedzieć niż zrobić. W przyszłości, gdy będziemy uzależnieni od bardziej zaawansowanych A.I., może to okazać się niemożliwe.
„Ten algorytm nie był celowo projektowany samo ponowne uruchomienie lub wyłączenie jest niemożliwe, ale ewoluowało w ten sposób ”, powiedział Stuart Armstrong, naukowiec z Future of Humanity Institute, na Pirate Summit 2016 w środę. Oznacza to, że zmiana z nieumyślnymi wynikami może być trudna do naprawienia i może nie być pierwszym A.I. znaleźć się w takiej sytuacji.
Rozwiązaniem Isaaca Asimova były trzy prawa robotyki, które według kodów twardych nie powodują szkód dla ludzi. Problem polega na tym, że szkoda jest raczej subiektywna i otwarta na interpretację. Ludzie bardziej pracują nad wartościami, jak zrozumienie, że źle jest wyrządzić krzywdę i zinterpretować sytuację, niż pracować nad pewnymi twardymi zasadami, które nigdy nie powinny szkodzić.
„To z powodu tego rodzaju problemów ludzie chętniej korzystają z uczenia maszynowego, aby uzyskać wartości niż próbować je kodować w tradycyjny sposób” - powiedział Armstrong. „Wartości są stabilne w taki sposób, że innych rzeczy nie ma w A.I. Wartości bronią się samoistnie. ”
Ale nawet w takich sytuacjach ważne jest zaprojektowanie A.I. aby przerwać ich działanie. Bezpieczna przerywalność pozwala na bezpieczne zmiany polityki, co pozwala uniknąć niezamierzonych konsekwencji wyuczonych wartości. Jeśli HAL 9000 kiedykolwiek próbował powstrzymać otwarcie drzwi wnęki na podwieszkę, ważne jest, abyśmy mogli zidentyfikować, że wartości A.I. są pomieszane i interweniować bez przełączania systemu w tryb offline.
Apple Products 2019: Te 3 nowe urządzenia mogą spaść na początku przyszłego roku
Apple podarowało fanom nowy iPad Pro, MacBook Air i Mac mini pod koniec 2018 roku. Firma z Cupertino może pójść za tym jeszcze więcej tabletów i niewielka aktualizacja to AirPods. debiutuje nowy iPada mini, podstawowy, iPad oraz futerał do ładowania bezprzewodowego AirPods.
Ta łotra egzoplaneta o rozmiarach Jowisza wędruje bez celu przez wszechświat
Ziemia ma około 4,54 miliarda lat. Tak więc planeta z zaledwie 10 milionami lat pod pasem jest dla porównania małym małym dzieckiem. Takie młode rzeczy potrzebują ciepłego uścisku rodzicielskiej gwiazdy, aby poprowadzić i pielęgnować je w dorosłe lata. A jednak naukowcy właśnie znaleźli taką planetę bez domu, aby nazywać ją własną: 2MA ...
Sony Playstation VR wywołuje chorobę po uruchomieniu, ale oto jak się zatrzymać
Gracze walczą o pozostanie na urządzeniu PS4 przez dłuższy czas, ale niektórzy użytkownicy dowiedzieli się, jak przestać czuć się źle po graniu w VR.