Concurso de beleza julgado por AI tem maioria branca como ganhadores

À medida que os seres humanos cedem cada vez mais controle e poderes à inteligência artificial, a maneira como toda essa tecnologia é usada ganha importância, seja no meio social ou seja no meio jurídico. A criação de uma máquina inteligente depende diretamente dos conhecimentos passados pelos seus criadores, ou mesmo indicados por eles, e sem uma análise cuidadosa, essas máquinas podem absorver as mesmas tendências que eles. Prova disso foi um experimento realizado com a ajuda de uma máquina, que escolheu apenas mulheres brancas em um concurso de beleza.

Às vezes, o viés é difícil de controlar, mas outras vezes é tão claro quanto constrangedor. Um concurso de beleza on-line chamado Beauty.ai, dirigido pela Youth Laboratories (empresa que tem como apoiadores grandes companhias como Nvidia e Microsoft) solicitou 600.000 fotos de perfil dizendo que elas seriam avaliadas por um programa baseado em inteligência artificial para selecionar as mais atraentes. O algoritmo iria avaliar as rugas, simetria facial, quantidade de espinhas e manchas, raça e idade aparente. No entanto, parece que a raça foi o fator preponderante no papel de escolha, já que das 44 pessoas escolhidas, 36 eram brancas.

As ferramentas utilizadas para o julgamento na competição foram baseadas em deep learning ou redes neurais, um tipo de inteligência artificial que aprende os padrões a partir da análise de maciças quantidades de dados. Nesse caso, por exemplo, os algoritmo deve ter analisado milhares de milhões de fotos de pessoas com rugas e outras sem. Aos poucos, o algoritmo vai aprendendo as diferenças para conseguir diferenciar quando apresentado a imagens parecidas. Mas se o algoritmo usa uma base de dados para aprendizado composta de pessoas brancas, sua precisão de escolha recai sempre em pessoas brancas, se comparadas com não brancas.

Como 75% dos participantes eram brancos e descendentes de europeus, teoricamente isso não afetaria o resultado, já que para a máquina, as fotos não seriam de pessoas, mas sim apenas um amontoado de pixels. Quando os pixels não seguiam um determinado padrão aprendido, eles podiam ser descartados como uma amostra ruim ou acidentalmente punido pelo julgamento do algoritmo. Em suma, a beleza nas fotos estava sendo julgada por um padrão, mas esse padrão havia sido construído majoritariamente por um agregado de pessoas brancas.

Alex Zhavoronkov, chefe do escritório de ciência do Beauty.ai, diz que aconteceu da cor das pessoas fazer diferença no julgamento da máquina, e que para alguns grupos de pessoas faltam dados amostrais suficientes para treinar as redes neurais. Logo, a solução pra esse problemas é uma melhor escolha dos dados utilizados. Se o algoritmo for apresentado a um conjunto maior e mais diversificado de pessoas, então estará mais bem capacitado para reconhecê-los posteriormente.

Problema semelhante já foi enfrentado em experimentos realizados com o Google Deep Dream. Pesquisadores da gigante de buscas desenvolveram algoritmos para processar imagens de arquiteturas, paisagens e obras de arte famosas para ampliar os padrões encontrados. Os resultados foram fractais pontuados por caras de cachorros. Posteriormente, descobriram que o banco de imagens utilizado para aprendizagem do sistema tinha milhares de fotos de cães, de modo que a inteligência artificial se tornou expert em reconhecer padrões caninos em vários lugares.

"Se um sistema é treinado com base em fotos de pessoas predominantemente brancas, ele provavelmente terá dificuldades em identificar rostos não-brancos", diz Kate Crawford, principal pesquisadora do Centro de Pesquisa da Microsoft de Nova York. "Então, a inclusão de diversas etnias realmente importa nessa construção da inteligência artificial, caso contrário, corre-se o risco de construir uma máquina que espelha uma visão estreita e privilegiada da sociedade, com seus antigos preconceitos e estereótipos familiares". A Beauty.ai vai realizar um novo concurso de beleza baseado em inteligência artificial em outubro, mas ainda não se sabe se a base de dados utilizada será a mesma ou se será atualizada.

Fonte: QZ