Congresso dos EUA exige que Amazon explique seu sistema de reconhecimento facial
Por Jessica Pinheiro | 27 de Julho de 2018 às 12h10
Um comunicado liberado por membros da União Americana pelas Liberdades Civis (ACLU) chamou a atenção da população para o Amazon Rekognition nesta quarta-feira (26). Após isso, uma carta endereçada a Jeff Bezos foi assinada por alguns democratas do Congresso dos Estados Unidos, dentre eles Jimmy Gomez e John Lewis, os quais exigiam explicações sobre o funcionamento do software de reconhecimento fácil da Amazon.
O motivo de tanta movimentação é o fato de a ACLU ter conduzido testes e percebido que o Amazon Rekognition estava associando 28 imagens de membros do Congresso a fotos que estavam armazenadas em um banco de dados criminal.
Na carta enviada ao chefão da Amazon, Lewis, que também teve seu rosto associado a um criminoso nos testes, repudia o funcionamento da ferramenta e diz os resultados dos testes são "perturbadores":
"Os resultados do teste da ACLU com o software ‘Rekognition’ da Amazon são profundamente perturbadores. Como sociedade, precisamos da tecnologia para ajudar a resolver os problemas humanos, e não para aumentar a montanha de injustiças enfrentadas atualmente por pessoas de cor neste país. Pessoas negras e pardas já são alvos injustamente por meio de um sistema de condenação discriminatório que levou ao encarceramento em massa e devastou milhões de famílias”.
Outros membros do Congresso também escreveram na carta endereçada a Bezos, fazendo uma série de perguntas sobre a tecnologia. O documento enaltece a forma como o Amazon Rekognition pode ser trabalhado, sendo uma ferramenta valiosa de aplicação da lei, mas questionando sua eficácia e impacto.
As preocupações levantadas também incluem “perigos que o reconhecimento facial pode representar para a privacidade e os direitos civis, especialmente quando é usado como uma ferramenta de vigilância governamental”. A precisão e o impacto desproporcional nas comunidades periféricas também é questionada.
Em resposta ao TechCrunch, a Amazon alega que o Rekognition analisa imagens e vídeos e que isso pode ser usado “para o bem no mundo, inclusive no setor público e na aplicação da lei”. A empresa também se manifestou sobre os testes da ACLU e defende sua tecnologia afirmando que os resultados poderiam ter sido melhores se o software tivesse sido configurado melhor em seu “limiar de aperfeiçoamento” no reconhecimento.
Esse aspecto geralmente é configurado em 80% e, para atividades policiais, é recomendado que os clientes definam pelo menos 95% ou mais. A empresa também acrescenta que os resultados do software devem ser usados para reduzir variantes e não para definir prisões.
Fonte: TechCrunch