Congresso dos EUA exige que Amazon explique seu sistema de reconhecimento facial

Por Jessica Pinheiro | 27 de Julho de 2018 às 12h10
Tudo sobre

Amazon

Um comunicado liberado por membros da União Americana pelas Liberdades Civis (ACLU) chamou a atenção da população para o Amazon Rekognition nesta quarta-feira (26). Após isso, uma carta endereçada a Jeff Bezos foi assinada por alguns democratas do Congresso dos Estados Unidos, dentre eles Jimmy Gomez e John Lewis, os quais exigiam explicações sobre o funcionamento do software de reconhecimento fácil da Amazon.

O motivo de tanta movimentação é o fato de a ACLU ter conduzido testes e percebido que o Amazon Rekognition estava associando 28 imagens de membros do Congresso a fotos que estavam armazenadas em um banco de dados criminal.

Na carta enviada ao chefão da Amazon, Lewis, que também teve seu rosto associado a um criminoso nos testes, repudia o funcionamento da ferramenta e diz os resultados dos testes são "perturbadores":

Participe do nosso GRUPO CANALTECH DE DESCONTOS do Whatsapp e do Facebook e garanta sempre o menor preço em suas compras de produtos de tecnologia.

"Os resultados do teste da ACLU com o software ‘Rekognition’ da Amazon são profundamente perturbadores. Como sociedade, precisamos da tecnologia para ajudar a resolver os problemas humanos, e não para aumentar a montanha de injustiças enfrentadas atualmente por pessoas de cor neste país. Pessoas negras e pardas já são alvos injustamente por meio de um sistema de condenação discriminatório que levou ao encarceramento em massa e devastou milhões de famílias”.

Outros membros do Congresso também escreveram na carta endereçada a Bezos, fazendo uma série de perguntas sobre a tecnologia. O documento enaltece a forma como o Amazon Rekognition pode ser trabalhado, sendo uma ferramenta valiosa de aplicação da lei, mas questionando sua eficácia e impacto.

As preocupações levantadas também incluem “perigos que o reconhecimento facial pode representar para a privacidade e os direitos civis, especialmente quando é usado como uma ferramenta de vigilância governamental”. A precisão e o impacto desproporcional nas comunidades periféricas também é questionada.

Em resposta ao TechCrunch, a Amazon alega que o Rekognition analisa imagens e vídeos e que isso pode ser usado “para o bem no mundo, inclusive no setor público e na aplicação da lei”. A empresa também se manifestou sobre os testes da ACLU e defende sua tecnologia afirmando que os resultados poderiam ter sido melhores se o software tivesse sido configurado melhor em seu “limiar de aperfeiçoamento” no reconhecimento.

Esse aspecto geralmente é configurado em 80% e, para atividades policiais, é recomendado que os clientes definam pelo menos 95% ou mais. A empresa também acrescenta que os resultados do software devem ser usados para reduzir variantes e não para definir prisões.

Fonte: TechCrunch

Gostou dessa matéria?

Inscreva seu email no Canaltech para receber atualizações diárias com as últimas notícias do mundo da tecnologia.