AI Judges Host Racist Beauty Pageatn

Konkursy piękności nigdy nie były platformą różnorodności i wygląda na to, że wprowadzenie sztucznej inteligencji nie rozwiązuje problemu.

Firma Beauty A.I. niedawno gościł drugi w historii międzynarodowy konkurs piękności oceniany przez AI.

Pięciu sędziów robotów zdobyło ponad 3000 zawodników płci męskiej i żeńskiej w oparciu o pięć kategorii: zmarszczki, klarowność i pigmentacja skóry, ich podobieństwo do modeli w ich grupie rasowej, symetria i chronologiczny w porównaniu z wiekiem. Nie całkiem odmienne od metryk używanych przez tradycyjne konkursy piękności (choć nie było komponentu talentu), AI oceniało piękno na podstawie jakościowych metryk i ludzkich uprzedzeń.

Albo tak myśleli naukowcy. Uczestnicy reprezentowali 100 krajów, ale tylko jeden z 44 zwycięzców miał przypuszczalnie ciemniejszy kolor skóry. Pozostali zwycięzcy byli głównie rasy kaukaskiej lub azjatyckiej.

„W pięknie liczy się percepcja. Postrzeganie to sposób, w jaki ty i inni ludzie widzicie, a to postrzeganie jest prawie zawsze stronnicze. Mimo to zdrowi ludzie wyglądają bardziej atrakcyjnie pomimo ich wieku i narodowości ”, stwierdza Beauty AI na swojej stronie internetowej.

Youth Laboratories, firma stojąca za konkursem, twierdzi, że jego misją jest głębokie uczenie się i masowa analiza semantyczna, aby „znaleźć skuteczne sposoby na spowolnienie starzenia się i pomóc ludziom wyglądać zdrowo i pięknie”.

„Jeśli w zbiorze danych nie ma tak wielu ludzi w kolorze, może to mieć tendencyjne wyniki” - powiedział Alex Zhavoronkov, dyrektor naukowy Beauty.ai Opiekun. „Kiedy trenujesz algorytm rozpoznawania określonych wzorców… możesz nie mieć wystarczającej ilości danych lub dane mogą być stronnicze”.

Nawet z pustą kartą AI może szybko nauczyć się stereotypu w taki sam sposób jak ludzie. Tego rodzaju błędy są widoczne nie tylko w AI przetwarzania obrazu, ale także w nauce języków.

Podobnie jak w przypadku większości przypadków dyskryminacji przez sztuczną inteligencję, rasistowskie widowisko odzwierciedla ludzkie trendy. Ostatnio w Japonii wybuchła rasistowska reakcja, gdy półindyjska kobieta wygrała Miss Japonii. W prawie 100-letniej historii widowiska tylko osiem czarnych kobiet zostało koronowanych na Miss Ameryki.

Beauty.AI może pochwalić się partnerami takimi jak Nvidia i Microsoft, których najbardziej znaną sztuczną inteligencją był rasistowski i seksistowski chatbot Tay.