Algoritmo racista: Twitter anuncia mudança na ferramenta de recorte de imagem
Por André Lourenti Magalhães • Editado por Bruno Salutes | •
O Twitter, através de seu blog oficial, anunciou que vai promover mudanças para a ferramenta de recorte e visualização de imagens. A novidade foi motivada após experimentos feitos por usuários na rede social, relatando que o algoritmo privilegiava a exibição de pessoas brancas no sobre pessoas negras na pré-visualização de imagens.
Em publicação assinada pelo chefe do setor de tecnologia, Parag Agrawal, e pelo chefe do setor de design, Dantley Davis, a rede social informou qual foi o processo de testes para o uso do sistema de machine learning no recorte de imagens. A testagem foi baseada em saliência, uma forma de prever para onde as pessoas vão olhar primeiro. Para isso, foram usados pares de diferentes etnias e gêneros, posicionados aleatoriamente em locais diferentes dentro da imagem.
https://twitter.com/TwitterSeguro/status/1312030211291181058
Segundo a rede, as análises na época não mostraram nenhum viés racial ou de gênero, mas a empresa reconheceu que há potencial para danos na forma em que as imagens são automaticamente recortadas. Atualmente, o Twitter segue realizando testes mais rigorosos e promete transparência para apresentar resultados, descobertas e até mesmo maneiras de disponibilizar análises em código aberto.
Mudanças encaminhadas
O Twitter pretende reduzir o impacto da inteligência artificial para o recorte de imagens e, em troca, deseja dar mais controle aos usuários para decidirem como as fotos serão apresentadas na rede social. A intenção é que o conteúdo visualizado na janela de composição do tuíte seja o mesmo exibido na publicação final, reduzindo o risco de danos. No caso das exceções por conta de largura ou altura do arquivo, a rede fará experimentos para não comprometer a integridade da imagem.
Fonte: Twitter