Algoritmo "julga" pessoas com base na aparência dos seus rostos

Pesquisadores do Stevens Institute of Technology, em colaboração com as Universidades de Princeton e de Chicago, todos nos EUA, desenvolveram um novo algoritmo capaz de dar opiniões sobre uma pessoa com base apenas nas fotografias tiradas do seu rosto.

• IA projetada para dar conselhos éticos se mostra um bot racista e preconceituoso
• Pesquisadores querem fazer Inteligência Artificial entender o que é justiça

Segundo os cientistas, a inteligência artificial (IA) utiliza as características observadas nessas primeiras impressões para fazer julgamentos rápidos e superficiais, avaliando fatores como idade, cor da pele e nível de confiabilidade, observando somente a aparência de um indivíduo.

“Existe um amplo corpo de pesquisa que se concentra em modelar a aparência física dos rostos. Estamos reunindo isso com julgamentos humanos e usando aprendizagem de máquina para estudar as primeiras impressões tendenciosas que as pessoas têm umas das outras”, explica o especialista em IA Jordan Suchow, autor principal do estudo.

Quem vê cara não vê coração

Durante os testes realizados em laboratório, os pesquisadores pediram a milhares de pessoas que dessem suas primeiras impressões sobre mais de mil fotos de rostos geradas por computador, levando em conta critérios como inteligência, religiosidade, confiabilidade ou extroversão que uma imagem aparentava ter.

Essas respostas foram então usadas no treinamento de uma rede neural para que ela aprendesse a fazer julgamentos rápidos sobre determinadas pessoas, levando em consideração apenas as características físicas presentes nas fotografias de seus rostos.

“Dada uma foto de uma face qualquer, podemos usar esse algoritmo para prever quais seriam as primeiras impressões sobre aquele indivíduo e quais estereótipos seriam projetados sobre essa pessoa quando alguém observasse a imagem do rosto pela primeira vez”, acrescenta Suchow.

Impressões deturpadas

Segundo os cientistas, muitas das opiniões emitidas pelo algoritmo se alinham com intuições comuns ou suposições culturais. Por exemplo, pessoas que sorriem tendem a ser vistas como mais confiáveis, ou indivíduos com óculos podem ser considerados mais inteligentes.

Outro problema observado é que essa IA pode ser usada para manipular fotos, fazendo com que um rosto pareça mais compatível com padrões aceitos pela sociedade, ou dando a um oponente político uma aparência menos confiável e inteligente do que a imagem dele realmente representa.

“Com essa tecnologia, é possível tirar uma foto e criar uma versão modificada para dar uma certa impressão. Por razões óbvias, precisamos ter cuidado sobre como esse algoritmo é usado. Estamos tomando todas as medidas possíveis para garantir que isso não seja utilizado de forma criminosa ou para causar danos”, encerra Jordan Suchow.

Fonte: EurekAlert, PNAS