Microsoft recusou oferta em reconhecimento facial em favor dos direitos humanos

A Microsoft recentemente recusou um pedido de fornecimento de tecnologia de reconhecimento facial para uma agência de policiamento do estado da Califórnia, segundo o presidente da empresa, Brad Smith. A ideia era a de instalar o software nas câmeras acopladas aos uniformes de policiais, porém a oferta foi negada pela Microsoft sobre “preocupações com os direitos humanos”.

Segundo Smith, a recusa se deu pela possibilidade de aumentar a discriminação para com mulheres e pessoas de pele negra, haja vista que tecnologias de reconhecimento facial são majoritariamente treinadas em homens brancos, o que poderia levar a erros de interpretação e, consequentemente, prisões abusivas e incoerentes.

Recentemente, a Amazon viu seu software Rekognition cair em escrutínio pelos mesmos motivos: no estado do Oregon, a polícia local utiliza o software do grupo liderado por Jeff Bezos, apesar de testes comprovarem que ele apresenta falhas de reconhecimento e da própria Amazon ser alvo de pedidos que rogam pela paralisação da oferta e retirada do produto — até mesmo pelos seus próprios acionistas.

“A qualquer hora que eles parassem alguém no trânsito, por exemplo,” — disse Smith, sem nomear a agência de policiamento — “eles executariam uma pesquisa facial comparativa à base de dados de suspeitos. Depois de considerarmos os impactos desproporcionais, nós dissemos que essa tecnologia não era a resposta que procuravam”.

As palavras de Smith foram ditas durante uma palestra ministrada por ele na Universidade de Stanford. Na ocasião, ele também disse que a Microsoft recusou um outro pedido, para instalar o software de reconhecimento facial por todas as câmeras da capital de um país que a organização sem fins lucrativos Freedom House disse não ser livre, no sentido de nação austera. Smith justificou dizendo que a tecnologia seria usada para suprimir as liberdades do povo local, novamente sem nomear o país.

Por outro lado, a Microsoft concordou em instalar o software em uma prisão nos EUA (sem nomear local, nome ou estado), após concluir que o uso da tecnologia na instituição correcional seria voltado ao aprimoramento da segurança dos detentos e funcionários.

Fonte: Reuters