Algoritmos de reconhecimento facial falham em combinar rostos de mulheres negras

Por Natalie Rosa | 22 de Julho de 2019 às 19h30
Reprodução

De acordo com dados do Instituto Nacional de Padrões e Tecnologia (NIST), dois dos algoritmos mais recentes da empresa Idemia, da França, e que também são os mais eficientes, têm mais dificuldade em fazer combinações de rostos de pessoas negras do que de brancas.

A conclusão aconteceu depois de testes feitos com os algoritmos, que deveriam identificar se duas fotos diferentes mostravam o mesmo rosto, assim como é feito por um agente humano na verificação de passaportes, por exemplo. Os resultados mostraram que a falsa identificação de mulheres brancas aconteceu uma a cada 10 mil vezes, enquanto com mulheres negras a confusão aconteceu uma a cada mil vezes, sendo 10 vezes mais frequente.

Imagem: Reprodução

Segundo Donnie Scott, responsável por liderar a divisão de segurança pública dos Estados Unidos na Idemia, os algoritmos testados pelo NIST não foram lançados de forma comercial e a companhia está conferindo a possibilidade de haver diferenças demográficas durante o processo de desenvolvimento do produto.

O estudo do NIST mostra ainda que o grupo de homens brancos é o que menos apresenta taxas de correspondência falsas, e que o de mulheres negras é o que mais possui falhas. O órgão pretende, agora, lançar um relatório detalhado para explicar como funciona a tecnologia em diferentes grupos demográficos.

Imagem: Reprodução

Em testes recentes feitos em aeroportos, O departamento de Segurança Interna dos Estados Unidos também mostrou que peles mais escuras contavam com identificação menos precisa.

No ano passado, o Instituto Nacional de Padrões e Tecnologia afirmou que os melhores algoritmos conseguiram 25 vezes mais encontrar uma pessoa em um grande bancos de dados entre os anos de 2010 e 2018, perdendo combinações em apenas 0,2% do tempo. Os resultados positivos ajudaram no uso generalizado dos sistemas de reconhecimento facial no governo, comércio e em dispositivos, como smartphones.

Mas este problema não é de hoje. Em 2012, o sistema mais eficiente do FBI também apresentou falhas na detecção de rostos de pessoas negras e mulheres. O motivo de isso acontecer, no entanto, ainda não está claro, mas segundo o NIST pode ser a tecnologia fotográfica usada que otimiza apenas peles claras. Há ainda outra hipótese, de acordo com Patrick Grother, responsável pelos testes, dizendo que peles negras são mais parecidas umas com as outras do que brancas.

Fonte: Wired

Gostou dessa matéria?

Inscreva seu email no Canaltech para receber atualizações diárias com as últimas notícias do mundo da tecnologia.