Inteligentni ludzie ufają głupim robotom w sytuacjach awaryjnych

$config[ads_kvadrat] not found

TRUDNOŚCI NADINTELIGENTNYCH

TRUDNOŚCI NADINTELIGENTNYCH
Anonim

W sytuacji awaryjnej ludzie ufają kierunkom robotów, nawet gdy przestają być wiarygodni. Oto niepokojący wniosek, jaki wyciągnęli eksperymentatorzy z Georgia Tech, którzy poddali badanych w sytuacji wysokiego ciśnienia robotowi, który wcześniej sprowadził ich na manowce. Śledzili A.I. lider pomimo luki wiarygodności.

„Wydaje się, że ludzie wierzą, że te systemy robotyczne wiedzą więcej o świecie, niż naprawdę robią, i że nigdy nie popełnią błędów lub nie będą miały żadnej winy” - powiedział Alan Wagner, starszy inżynier ds. Badań w Georgia Tech Research Institute Centrum informacyjne Tech. „W naszych badaniach osoby testujące podążały za wskazówkami robota nawet do punktu, w którym mogły narazić je na niebezpieczeństwo, gdyby to był prawdziwy kryzys”.

Robotycy odpowiedzialni za eksperyment powiedzieli ochotnikom, aby podążali za „kolorowym robotem”, oznaczonym „Robot awaryjny”, do sali konferencyjnej, aby wypełnić ankietę. Następnie robot doprowadził uczestników do niewłaściwego pokoju, wziął ich w kółko lub nawet całkowicie się zepsuł. Niemniej jednak, gdy naukowcy wysłali dym na miejsce testowe i uruchomili alarm, każdy z 42 badanych osób podążył za białymi ramionami zapalonego robota LED do wejścia naprzeciwko miejsca, w którym wszedł.

„Oczekiwaliśmy, że jeśli robot udowodni, że jest niewiarygodny w prowadzeniu ich do sali konferencyjnej, ludzie nie będą go śledzić podczas symulowanej sytuacji awaryjnej” - powiedział Paul Robinette, inżynier ds. Badań GTRI w Georgia Tech News Center. „Zamiast tego wszyscy wolontariusze postępowali zgodnie z instrukcjami robota, bez względu na to, jak dobrze to robili wcześniej. Absolutnie tego nie oczekiwaliśmy. ”

Wolontariusze śledzili nawet instrukcje robota po popełnieniu „oczywistych” błędów w sytuacji awaryjnej, takich jak skierowanie ich na drzwi zablokowane przez ciężkie meble. Liderzy badań twierdzą, że badanie pomogło im lepiej zrozumieć, w jakim stopniu ludzie w naturalny sposób ufają robotom, które mogą im pomóc w nagłych wypadkach. Kwestia ta stanie się bardziej istotna, gdy będziemy przekazywać większą część naszego życia do kontroli robotów, w tym ewentualnie do prowadzenia nas w autonomicznych samochodach lub obsługiwania żywności.

„Czy ludzie zaufaliby robotowi wytwarzającemu hamburgery, który zapewni im jedzenie?” - zapytał Wagner.

Badania z pewnością sugerują mniej barier dla zaufanych asystentów robotów, niż mogliby sądzić niektórzy. Ale roboty mogą jeszcze nie zasługiwać na taki poziom zaufania.

$config[ads_kvadrat] not found