Resultados de buscas por "CEO" no Google ainda apresentam viés de gênero

Em uma pesquisa feita em 2015 pela Universidade de Washington (WU), nos Estados Unidos, foi descoberto que as mulheres estavam subrepresentadas nos resultados de busca de imagens do termo "CEO" no Google. Após o ocorrido, a empresa afirmou ter corrigido o problema, mas outra equipe da WU constatou recentemente que a situação não foi totalmente solucionada.

• Plataformas de seleção de emprego são criticadas por errarem na automatização
• Urbanic usa tecnologia para trazer tendências mundiais aos looks nacionais

Conforme a nova pesquisa, uma busca pelo cargo de CEO na seção de imagens dos principais mecanismos de busca do mundo, principalmente o Google, retornou a mesma proporção de homens e mulheres cisgênero. Por outro lado, a pesquisa pelo termo “CEO + Estados Unidos”, retornou uma proporção diferente, com uma quantidade muito maior de homens cis.

"Meu laboratório vem trabalhando na questão do viés nos resultados de pesquisa há algum tempo e nos perguntamos se esse viés de pesquisa de imagem do CEO só foi corrigido superficialmente", disse o professor associado da UW na Escola de Informação Chirag Shah, autor sênior do estudo.

A pesquisa

O estudo investigou os resultados de busca de imagens em diversos mecanismos de pesquisa ao redor do mundo, incluindo a ferramenta chinesa Baidu, a sul-coreana Naver, o Yandex, da Rússia, e o Google. Para a avaliação, os pesquisadores selecionaram 10 ocupações comuns — incluindo CEO, biólogo, programador de computador e enfermeira — e pesquisaram imagens relacionadas às profissões com ou sem termos adicionais, como “Estados Unidos”.

Em seguida, a equipe selecionou as 200 principais imagens e contou com a ajuda de voluntários e inteligência artificial de detecção de gênero para identificar cada rosto. "Essa é uma abordagem comum para estudar sistemas de aprendizado de máquina", disse o autor principal e pós-doutorando da WU na Yunhe Feng.

"Semelhante a como as pessoas fazem testes de colisão em carros para se certificar de que estão seguros, os pesquisadores de privacidade e segurança tentam desafiar os sistemas de computador para ver como eles se comportam. Aqui, apenas alteramos um pouco o termo de pesquisa. Não esperávamos ver resultados tão diferentes", disse Feng.

Motivo do viés de gênero

Um fato que chamou a atenção dos pesquisadores foi especificamente como a proporção do viés de gênero se alterava de acordo com a quantidade de imagens que eles olhavam.

"Sabemos que as pessoas passam a maior parte do tempo na primeira página dos resultados de pesquisa porque querem encontrar uma resposta muito rapidamente", disse Feng. "Mas talvez se as pessoas passassem na primeira página de resultados de pesquisa, elas começariam a ver mais diversidade nas imagens", completou.

Quando a equipe adicionou “+ Estados Unidos” aos termos pesquisados nas imagens do Google, alguns grupos de imagens tiveram maiores proporções de preconceito de gênero do que outras. Aumentar a quantidade de fotos observadas resolvia esses problemas, mas nem sempre.

Em outras ferramentas de busca, foi possível notar diferenças para ocupações específicas, porém a tendência geral permaneceu — a adição de outro termo de pesquisa mudou a proporção de gênero, resultando em estatísticas desiguais entre a quantidade de imagens de mulheres cis e homens cis.

Como resolver o problema

O artigo apresentado pelo grupo em fevereiro na Conferência AAAI de inteligência artificial propôs três algoritmos para solucionar o problema. O primeiro embaralha aleatoriamente os resultados para evitar que as imagens do topo sejam tão homogêneas,segundo Shah; os outros dois adicionam mais estratégia ao embaralhamento de imagens.

Desses dois últimos, um inclui a "pontuação de relevância" da imagem, que os mecanismos de pesquisa atribuem com base na relevância de um resultado para a consulta de pesquisa, enquanto outro exige que o mecanismo de pesquisa conheça os dados do departamento de estatísticas e, em seguida, o embaralhe os resultados da busca para que as imagens com as melhores classificações sigam a tendência real.

“Podemos explicar por que e como nossos algoritmos funcionam”, disse Feng. "Mas o modelo de IA por trás dos mecanismos de busca é uma caixa preta. Pode não ser o objetivo desses mecanismos de busca apresentar informações de forma justa. Eles podem estar mais interessados ​​em fazer com que seus usuários se envolvam com os resultados da pesquisa", completou o pesquisador.

Fonte: Universidade de Washington