Twórca „Ta osoba nie istnieje” ujawnia przerażającą historię swojej strony

Phillip Wang jest 33-letnim inżynierem oprogramowania odpowiedzialnym za stworzenie strony internetowej z sztuczną inteligencją This Person Does Not Exist, która niedawno stała się wirusowa. Za każdym razem, gdy strona jest odświeżana, algorytm znany jako generatywna sieć kontradyktoryjna (GAN) (pierwotnie kodowany przez Nvidię) renderuje hiperrealistyczne portrety całkowicie fałszywych osób.

Wyczyn został zaprojektowany, aby zwrócić uwagę na coraz większą moc A.I. do przedstawiania jako prawdziwe obrazy, które są całkowicie sztuczne. Ale jak mówi Wang Odwrotność, ten wyczyn ma konsekwencje, które rozprzestrzeniają się daleko, „hej, spójrz na tego prawdziwego, fałszywego człowieka”. W społeczeństwie, w którym zdjęcia i obrazy są standardowymi odpowiednikami „dowodu”, GAN - automatyzując pracę, która kiedyś wymagała żmudnej pracy część ekspertów od obrazowania - wkrótce pozwoli każdemu dostarczyć „dowodu”, że każda wyobrażalna osoba zrobi coś, co można sobie wyobrazić.

„W zasadzie jestem w punkcie mojego życia, w którym zamierzam przyznać, że super-inteligencja będzie prawdziwa i muszę poświęcić swoje pozostałe życie temu”, wyjaśnia. „Reakcja mówi o tym, jak bardzo ludzie są w ciemności na temat A.I. i jego potencjał. ”

Miejsce uderzyło w akord. Były inżynier oprogramowania Uber mówi, że od czasu jego uruchomienia, ta osoba nie istnieje, była odwiedzana około 4,2 miliona razy, co nie jest złe dla jednorazowej strony pierwotnie opublikowanej w zamkniętej grupie na Facebooku. Wang początkowo używał go jako sposobu na przekonanie kilku przyjaciół do przyłączenia się do niezależnego A.I. badania, nad którymi obecnie pracuje. Ale w ciągu jednego dnia zdecydował, że szersza publiczność może skorzystać z poznania potencjału GAN. Powiedział, że echa reakcji, jak ważne jest informowanie ludzi o tym, jak ten rodzaj technologii może być zarówno rewolucyjny, jak i niebezpieczny.

Dlaczego fałszywe twarze stanowią przerażający przełom

Strona Wanga korzysta z algorytmu Nvidii StyleGAN, który został opublikowany w grudniu ubiegłego roku. Potencjał, jego zdaniem, rozciąga się od pomocnego, ale przyziemnego (myśl: usprawnienie implantacji korony dentystycznej) do bardziej odległego, na przykład umożliwiając wyobraźni zupełnie nowych cząsteczek służyć w przyszłych lekach. Ale ta rewolucyjna technologia ułatwi także oszustwo i dezinformację.

Powodem, dla którego przypadki użycia są tak wielopłaszczyznowe, jest wiele, wiele sposobów zastosowania GAN, które są szkolone przez wsuwanie do siebie dwóch sieci: generatora i dyskryminatora. Generator otrzymuje rzeczywiste obrazy, które próbuje odtworzyć jak najlepiej, podczas gdy dyskryminator uczy się odróżniać fałszywe obrazy od oryginałów. Po milionach sesji szkoleniowych algorytm rozwija nadludzkie możliwości tworzenia kopii obrazów, na których był szkolony.

Jest to ta sama metoda, która tworzy deepfakes lub generowane komputerowo obrazy nałożone na istniejące zdjęcia lub filmy, i które są często używane do przekazywania fałszywych narracji informacyjnych lub innych oszustw.

I podczas gdy Wang jest zafascynowany innowacjami, które wprowadzi w wielu firmach, chce także, aby ludzie byli bardziej świadomi potencjalnych szkód, jakie mogą spowodować.

Na przykład nikczemny aktor może rozpowszechniać generowane przez GAN wideo lub obraz przedstawiający fałszywe zdarzenie, aby wzniecić zamieszki, protesty lub inne potencjalnie gwałtowne reakcje online.

Ponieważ cały proces jest zautomatyzowany, wszyscy będą potrzebować dostępu do szeregu procesorów graficznych (GPU) lub kart graficznych - które uczą się maszyny z napędem - oraz zestawu obrazów do rozpoczęcia fałszowania takich jak mechanizm zegarowy.

W dłuższej perspektywie, podczas gdy StyleGAN są zdolne do tworzenia nieruchomych obrazów osób, które nigdy nie istniały, dzięki czemu obrazy te poruszają się naturalnie, to tylko kilka kroków. Na szczęście Wang zauważa, że ​​zwykłe informowanie o GAN sprawi, że ludzie będą mniej podatni na bycie przez nich oszukanym. Podwyższona świadomość ułatwi nam wszystkim korzystanie z ulepszeń grafiki 3D i medycyny, które prawdopodobnie przyniosą style GAN.

„Mam tylko nadzieję, że moja demonstracja podniesie świadomość. Ci, którzy są nieświadomi, są najbardziej podatni na tę technologię - powiedział Wang. „Z drugiej strony, A.I. naprawdę przyniesie wiele dobrego światu ”.

Wyślij wiadomość e-mail do autora: [email protected]