To się dzieje, gdy Donald Trump spotyka sztuczną inteligencję

Bradley Hayes, doktor habilitowany w MIT, który zajmuje się badaniami robotycznymi, właśnie przekształcił Donalda „Drumpfa” w robota. Zaprogramował powtarzającą się sieć neuronową - sztuczną inteligencję - do badania i naśladowania przemówień kandydata Republikanów.

„Codzienna praca Hayesa”, mówi, „badania koncentrują się na łączeniu ludzi z robotami: projektowanie algorytmów, które pozwalają robotom współpracować z ludźmi i uczyć się od nich, aby ludzie mogli być bezpieczniejsi, wydajniejsi i skuteczniejsi w swojej pracy”. @ DeepDrumpf jest „projektem pobocznym”. Częściowo czerpał inspirację z „fantastycznego szkicu” Johna Olivera. („Mam nadzieję, że to zobaczy - mam nadzieję, że to zobaczy i doceni to.”)

Odwrotność rozmawiał z Hayesem o tym patriotycznym przedsięwzięciu.

Co jeszcze zainspirowało Cię do stworzenia @DeepDrumpf?

Zaczęło się od rozmowy w porze lunchu z moimi kolegami, którzy również zajmują się badaniami robotycznymi i zajmują się uczeniem maszynowym. Rozmawialiśmy o różnych technikach modelowania statystycznego, które były rzeczywiście istotne dla naszych badań.Okazuje się, że ta sama technika, która kryje się za DeepDrumpf, działa w wielu domenach robotyki, ponieważ jest to technika modelowania, która próbuje nauczyć się struktury informacji sekwencyjnych lub danych sekwencyjnych. Język naturalny jest doskonałym przykładem danych sekwencyjnych, w których struktura zdania jest dość spójna: istnieją reguły, a wszystkie dane, które otrzymujesz, mają strukturę podstawową.

Odziedzicz 100 milionów?, A teraz buduję na całym świecie. I trochę fajnie.

- DeepDrumpf (@DeepDrumpf) 4 marca 2016 r

Inny badacz ze Stanford napisał kurs na temat sieci neuronowych, aw szczególności opublikował artykuł zatytułowany „Nieuzasadniona skuteczność powtarzających się sieci neuronowych”. Napisał więc fantastyczne wprowadzenie do tej techniki modelowania statystycznego i kilka ludzie pokazali, że ma tę nieuzasadnioną moc do reprezentowania struktury w tego rodzaju swobodnym pisaniu danych tekstowych.

Zobaczyłem artykuł porównujący złożoność mowy różnych liderów politycznych. W artykule powiedziano, jak Trump używa prostszego języka i jest wielkim hitem ze względu na jego demograficzne głosy i jego fanów. Z politycznego punktu widzenia jest to naprawdę świetne, ponieważ sprawia, że ​​twoje przesłanie jest jasne i zrozumiałe dla jak najszerszego grona odbiorców; z punktu widzenia uczenia maszynowego oznacza to, że może to być najbardziej przystępny model, jaki możemy zrobić.

Czy słyszałeś o języku kodowania „Make Python Great Again”?

Wiesz, widziałem to wczoraj. TrumpPython czy coś takiego? Widziałem to. Przeczytałem artykuł na ten temat, poszedłem na ich stronę GitHub, ale nie miałem jeszcze czasu, żeby się tym bawić. Ale wygląda świetnie.

Czy możemy dowiedzieć się czegoś o tendencjach językowych Trumpa, czy czymś takim, z twojego A.I.

Tak, to możliwe w tym sensie, że jeśli spojrzysz na dane wyjściowe z modelu, wskazuje to na strukturę, której model nauczył się z danych. Zatem rodzaje powtórzeń, rodzaje rzeczy, które pochodzą z modelu, powiedzą - potencjalnie - o pewnych rzeczach, które są nieodłącznie związane z jego wzorcami mówienia i jego przesłaniem.

Kansas Wszyscy powiedzieli: „Nie potrzebuję niczego. Mieli straszny kraj i mają specjalną infrastrukturę, nasz kraj potrzebuje bogatego.

- DeepDrumpf (@DeepDrumpf) 4 marca 2016 r

Nie musisz być w stanie uzyskać tego z konta na Twitterze, głównie dlatego, że Twitter daje ci tylko 140 znaków do pracy. I ponieważ nie ma wielu danych, które trafiły do ​​modelu, a także częściowo dlatego, że transkrypcje pochodzą z debat - w których kandydaci (a zwłaszcza Trump) mają tendencję do przerywania samych siebie - to sprawia, że ​​te nieciągłości w produkcji.

Jest jeszcze trochę pracy ręcznej, aby w zasadzie wypróbować ścianę tekstu z tego modelu, a następnie przejść przez nią i wybrać najlepszy ciągły 140-znakowy samorodek, a następnie opublikować go.

To działa. Naszym prezydentem jest Obamacare. teraz w tym nie jest. Dziękuję Ci bardzo. Nie jesteśmy cheerleaderką, którą interesujemy

- DeepDrumpf (@DeepDrumpf) 4 marca 2016 r

Więc w tym momencie nie jest to bardzo praktyczne?

Skutecznie uczy się rozkładu prawdopodobieństwa i można z niego pobierać próbki. Co to znaczy - masz swój model i możesz go poprosić o list. A jeśli poprosisz o wystarczającą liczbę liter z rzędu, da ci to rzeczy, które przypominają angielski. A nawet lepiej, niektóre z nich przypominają rzeczy, które Trump mógł rzeczywiście powiedzieć - ponieważ był na nim szkolony. Ogólny proces, który obserwowałem, to: Próbuję, powiedzmy, 500 lub 1000 znaków. Dałoby mi to po prostu ścianę z tekstem o wartości 500 lub 1000 znaków, jak sądzę, wędrówki, a potem, z tego miejsca, wybiorę najlepszy 140-znakowy blok, który ma sens. Albo najlepsze zdanie, które z tego wynika, wydaje się istotne.

Na przykład zeszłej nocy użyłem go do pewnego rodzaju debaty na żywo. Jedną z rzeczy, które możesz zrobić z takim modelem, jest to, że możesz go przygotować. Ponieważ model daje ci tylko jeden znak na raz, ma to tę zależność od postaci, które go wyprzedziły - liter, które poprzednio wyprowadzał. W ten sposób uczy się słów, w ten sposób przechwytuje strukturę zdania i pewne elementy gramatyki.

Powiedzmy, że zaczynam zdanie od „Romney is”, a następnie pytam o następne tysiąc znaków. Nazywamy to prymowaniem. Daje to, czego chce, ale ustawi początkową część sekwencji na „Romney to…”

Czy to odnosi się do tych tweetów zawierających frazy w nawiasach?

Dokładnie tak.

Romney jest narzędziem. Chcę ci to powiedzieć. To prawdopodobnie ostatnia rzecz, jakiej potrzebujemy w liderze. Nie możemy tego zrobić.

- DeepDrumpf (@DeepDrumpf) 3 marca 2016 r

Jedną z rzeczy, które mam nadzieję zrobić, gdy proces będzie trochę czystszy - a to będzie miało więcej danych - jest rozpoczęcie interakcji z innymi kandydatami. Jeśli spojrzysz na konto na Twitterze, podąża za innymi głównymi kandydatami. Ostatecznie, mam nadzieję, że zacznę odpowiadać na nie i może rzucać im wyzwanie. Ale to raczej coś w rodzaju weekendowego projektu.

@realDonaldTrump Będą płacić teraz i, absolutnie,. Jestem naprawdę bogaty. Och, chcę je wspierać i mieć.

- DeepDrumpf (@DeepDrumpf) 3 marca 2016 r

Czy możesz wyjaśnić, czym jest powtarzająca się sieć neuronowa w uproszczonym, nie wyspecjalizowanym języku?

Jasne - spróbujemy. Sieć neuronowa, ogólnie rzecz biorąc, pobiera pewne dane wejściowe, następnie robi trochę matematyki w środku i daje wyjście. Ogólnie jest to tylko klasyfikator. Tak więc, biorąc pod uwagę dane wejściowe, powie ci, jakiej klasy odpowiada wejście. Popularnym przykładem może być - podstawowa sieć neuronowa - dajesz jej zdjęcie kota, a chcesz, żeby ci to powiedział - jeśli to jest jak kot, pies, samolot lub samochód - chcesz to powiedzieć, że „okej - z dużą pewnością - to kot, który mi właśnie dałeś”.

To jest zadanie klasyfikacyjne na wysokim poziomie. Jest to podobna koncepcja, ale zamiast być kotem, psem, samochodem, klasy są indywidualnymi literami alfabetu i interpunkcji. Tak więc bierze się dane wejściowe, a następnie robi to z matematyki w oparciu o to, czego się nauczyło - więc cała nauka odbywa się „w środku”, nazwiemy to - i daje ci klasyfikację na końcu. Więc ten list.

To, co czyni to nawracający Sieć neuronowa polega na tym, że dane wyjściowe z poprzednich kroków są wprowadzane do następnego kroku jako część modelu. Fakt, że model dał mi „M”, zostanie uwzględniony w następnym przejściu modelu. Więc może to dać ci „a”, a następnie „k”, a następnie „e”, ponieważ próbuje to wydać „Spraw, aby Ameryka znów była świetna”, ponieważ jest to często reprezentowane w danych.

Czy jesteś szczególnie dumny z jakichkolwiek tweetów DeepDrumpf?

Tak, właściwie. Mam parę, której jeszcze nie opublikowałem, ale -

Ekskluzywny.

Śmiech Dokładnie. Z tych, które są publikowane, jestem szczególnie zadowolony z „Jestem tym, czego ISIS nie potrzebuje”.

Jestem tym, czego ISIS nie potrzebuje.

- DeepDrumpf (@DeepDrumpf) 3 marca 2016 r

Zobaczmy… Zrobiłem to za pomocą „Nie jestem rasistą, ale…”, a kontynuacją było „… uwierzcie w to”, co uważałem za całkiem niezłe. Miałem zamiar zapisać to, gdy stało się to istotne, jeśli stało się to istotne.

Nic dobrego nie przychodzi po tych słowach.

Czy wolisz głosować na Donalda Trumpa lub zagłosować na @DeepDrumpf?

Myślę, że każdy z tych wyborów ma kompromis.