Amazon| Acionistas votarão futuro do sistema de reconhecimento facial da empresa

Em votação simbólica marcada para o próximo dia 22 de abril, o software de reconhecimento facial da Amazon chamado Rekognition deve enfrentar a oposição dos acionistas do grupo tecnológico. A expectativa é que eles favoreçam a paralisação de ofertas de venda da aplicação e peçam por regulamentação do governo dos EUA frente a críticas de preconceito e falhas de algoritmo que permeiam a solução.

A Amazon vem enfrentando críticas duras de diversos especialistas do setor, que indicam que o Rekognition aplica algoritmos falhos em seu funcionamento, o que leva a erros constantes e, por muitas vezes, preconceituosos: no início de abril, pesquisadores da Google, Microsoft, Facebook e diversas empresas indicaram testes em que o software falhou em reconhecer pessoas negras ou, pior, registrar elas quando na verdade a pessoa à sua frente era outra.

Segundo acusam os pesquisadores, a Amazon, mesmo sabendo desse erro, está oferecendo o Rekognition a forças policiais em diversos estados dos EUA. O medo dos especialistas é de que a adoção massificada do software leve a um aumento expressivo de perfilação indevida, do qual a população afro-americana é constantemente alvo. Basicamente, eles argumentam que mais negros serão acusados de crimes que não cometeram.

A votação dos acionistas, porém, é simbólica e não traz nenhuma obrigação à Amazon. Vale citar, em casos em que acionistas votaram contra a adoção de uma solução ou medida, raramente as fabricantes e empresas que as idealizam acatam tais decisões, geralmente seguindo com seus planos originais.

A Amazon defende o uso do Rekogntion dizendo que “novas tecnologias não devem ser banidas ou condenadas por causa do seu potencial de mau uso; ao invés disso, deveriam haver discussões abertas, honestas e pró-ativas entre todas as partes envolvidas para se certificar de que a tecnologia é apropriadamente aplicada e continuamente melhorada”.

Outra preocupação em relação ao Rekognition é o potencial uso da ferramenta para assédio de ativistas e opositores políticos. O software usa a inteligência artificial para aprimorar suas capacidades de reconhecimento de maneira automática (por meio do conceito de deep learning) e poderia, por exemplo, escanear uma multidão a fim de encontrar potenciais criminosos. Isso poderia, segundo temem opositores, levar à perseguição de conhecidas figuras de oposição política quando estas não estão em momentos de protesto.

Fonte: Engadget