Ex-funcionários da Amazon dizem que IA responsável pelas contratações é misógina

Por Ares Saturno | 10 de Outubro de 2018 às 17h40
Tudo sobre

Amazon

A automação e o uso de Inteligências Artificiais têm sido fundamentais no avanço de inúmeras corporações, incluindo a Amazon, que utiliza o Aprendizado de Máquina para controlar os preços dos produtos de seu comércio eletrônico, ajudar as atividades logísticas de suas entregas ou mesmo avaliar candidatos a vagas de emprego dentro da companhia.

O problema é que, em 2015, a empresa percebeu que o sistema de seleção profissional por meio de IA era parcial ao gênero das pessoas que estavam disputando as vagas, excluindo as mulheres das oportunidades de carreira. A falha misógina ocorreu por utilizarem informações coletadas na própria empresa, nos últimos 10 anos, sobre padrões de currículos e contratações. E, bem, a exclusão feminina apenas foi reproduzida pela máquina, uma vez que já fazia parte da cultura da empresa.

De acordo com cinco pessoas anônimas responsáveis pelo desenvolvimento do algoritmo de processo seletivo da Amazon, em entrevista à Reuters, a IA responsável pelas avaliações aprendeu com os padrões da empresa que ser mulher era uma característica a se evitar, então penalizou os currículos que continham termos como "capitã do clube de xadrez feminino", bem como prestou más avaliações a graduadas em faculdades exclusivas para mulheres.

Participe do nosso GRUPO CANALTECH DE DESCONTOS do Whatsapp e do Facebook e garanta sempre o menor preço em suas compras de produtos de tecnologia.

Sabendo da falha, a Amazon editou os algoritmos para evitar a reprodução do machismo, tornando a análise neutra para esses termos específicos. Entretanto, segundo as fontes que informaram o assunto à Reuters, isso não garante que o problema de exclusão de mulheres das carreiras na Amazon esteja resolvido definitivamente. A equipe responsável pela construção do modelo de Aprendizado de Máquina foi desfeita no início de 2017. Os ex-funcionários chegaram a avaliar o novo modelo mas não ficaram convencidas que a inequidade de gênero estava solucionada após as mudanças feitas.

A Amazon não respondeu diretamente aos questionamentos da Reuters, mas reforçou seu compromisso em erradicar a inequidade de gênero e promover a diversidade nas carreiras.

A denúncia vem em um momento delicado para Jeff Bezos, CEO da Amazon e eleito pior chefe do mundo em 2014. Há duas semanas, um vídeo interno instruindo os líderes de equipe a desincentivar a adesão dos funcionários aos sindicatos foi vazado, rendendo polêmica sobre as técnicas de persuasão e manipulação dos trabalhadores.

Além das ações condenáveis de Bezos em relação aos direitos trabalhistas, o Congresso estadunidense está atento às falhas de sistemas automatizados por meio de Inteligências Artificiais no país que levam à exclusão de minorias. Sete membros do Congresso dos EUA questionaram ao FBI e à Equal Employment Opportunity Commission (EEOC) se essas agências estavam de olho nos perigos que a automação dos processos seletivos pode representar, também há duas semanas.

Fonte: Reuters

Gostou dessa matéria?

Inscreva seu email no Canaltech para receber atualizações diárias com as últimas notícias do mundo da tecnologia.