Erro em biometria facial incrimina jovem negra e reacende debate sobre racismo

Por Felipe Gugelmin | Editado por Claudio Yuge | 16 de Julho de 2021 às 20h30
Divulgação/Gerd Altmann/Pixabay

Na última quinta-feira (15), a jovem Lamya Robinson foi impedida de entrar em uma pista de patinação na cidade de Michigan por supostamente ter sido banida após uma briga — no entanto, ela jamais havia entrado no local antes. O responsável pela falsa identificação foi o sistema de biometria facial usado pelas câmeras instaladas no local, situação que ajudou a reacender o debate sobre o racismo associado a tecnologias do tipo.

“Para mim, isso é basicamente o uso de perfis raciais”, afirmou a mãe de Lamya, Juliea Robinson, em uma entrevista à rede Fox 2 Detroit. “Você está apensar dizendo que toda jovem negra com óculos se encaixa nesse perfil, e isso não está certo”. Os responsáveis pela pista de patinação afirmam que a jovem foi barrada porque o sistema disse que havia 97% de precisão em sua identificação e que desculpa por qualquer possível erro.

Quer ficar por dentro das melhores notícias de tecnologia do dia? Acesse e se inscreva no nosso novo canal no youtube, o Canaltech News. Todos os dias um resumo das principais notícias do mundo tech para você!

A situação traz à tona um velho problema associado à biometria facial: tecnologias do tipo geralmente têm mais dificuldade em distinguir entre pessoas negras do que entre pessoas com pele branca. Os sistemas presentes no mercado possuem uma precisão que varia entre 75,8% e 87,5% quando aplicadas sobre essa parcela da população, o que tem resultados em diversos erros com consequências graves.

Imagem: Reprodução/Fox 2 Detroit

Muito disso se deve à combinação entre a imprecisão da tecnologia ao seu uso mais intenso em áreas consideradas pobres, que geralmente são habitadas por minorias. Nos Estados Unidos, isso já levou a prisões injustas e há relatos de que uma maioria negra de desempregados pode ter ficado sem benefícios devido a falhas de reconhecimento facial.

Preocupações sobre direitos civis

Especialistas também afirmam que o uso de softwares de reconhecimento também pode aumentar a segregação entre pessoas. “Trata-se de quem tem acesso a espaços públicos em um mundo de segregação controlada por máquinas”, explica Ángel Días, advogado do Programa de Liberdade e Segurança Nacional no Brennan Center.

As preocupações sobre os impactos que a biometria facial pode trazer fizeram com que diversos reguladores da União Europeia se unissem para banir o uso da tecnologia em espaços públicos. A situação se repete nos Estados Unidos, país no qual grupos de direitos civis também se organizam para estender o banimento ao varejo, tanto devido às violações de privacidade resultantes quanto pelo fato de que elas podem fazer com que comunidades não-brancas historicamente pobres tenham acesso a bens de consumo e oportunidades de trabalho.

Fonte: The Next Web, Fox 2 Detroit

Gostou dessa matéria?

Inscreva seu email no Canaltech para receber atualizações diárias com as últimas notícias do mundo da tecnologia.