Facebook pede desculpa após sugestão racista de algoritmo

Usuários do Facebook relataram ter se deparado com um absurdo caso de racismo no algoritmo da plataforma. Após assistirem a um vídeo de jornal com homens negros, o sistema de inteligência artificial (IA) os questionou se gostariam de continuar a ver "vídeos sobre primatas", em uma clara atitude racista de associação a macacos.

• Twitter constata que seu algoritmo de corte de fotos é mesmo racista
• Erro em biometria facial incrimina jovem negra e reacende debate sobre racismo
• #StopAsianHate: Facebook promove ações em apoio a comunidades de origem asiática

Em resposta à BBC News, o Facebook pediu desculpas e disse se tratar de um "erro inaceitável". A rede social desativou o sistema e iniciou uma investigação para descobrir o que ocorreu neste caso. A recomendação ofensiva não foi a primeira e nem será a última de uma longa série de fatos envolvendo preconceitos raciais e IA.

A inaceitável vinculação entre pessoas negras e macacos tem raízes sociais e acabam transportadas para os algoritmos das redes sociais em razão da atitude dos próprios usuários. Com base no aprendizado de máquina, esses sistemas rotulam fotos, vídeos e textos conforme as associações feitas pelas pessoas — quanto mais isso se repete, mais o computador entende se tratar de algo correto e então começa a tomar como verdadeiro.

No ano passado, foi anunciada a criação de um conselho voltado para examinar, entre outras coisas, preconceitos raciais nos algoritmos do Facebook e do Instagram. Como nada mais se falou sobre isso, pressupõe-se que esteja em funcionamento.

No caso do Facebook, ainda não dá para afirmar se foi isso que ocorreu ou se houve trabalho humano por trás. O jeito é aguardar a investigação e cobrar medidas concretas da rede social para coibir essa prática.

Outros casos similares

O fato mais recente relacionado ao racismo algoritmo foi da ferramenta de corte automático de fotos do Twitter. Usuários notaram que o sistema, usado para selecionar trechos mais importantes das imagens, tinha uma tendência a focar em figuras femininas brancas, cortando sem dó homens negros.

Após um concurso realizado com especialistas, os desenvolvedores comprovaram o enfoque racista da ferramenta e outras coisas mais. Eles descobriram, por exemplo, que o algoritmo também era preconceituoso contra palavras escritas em árabe e pessoas gordas.

No TikTok, o problema foi um filtro inseridos de forma automática em vídeos gravados com a ferramenta da plataforma. Rostos de mulheres ganhavam uma aparência mais afilada e clara, além de contornos mais "femininos", o que deixou muita gente perplexa e indignada. A rede social limitou-se a dizer que foi uma falha corrigida pouco tempo depois.

O mesmo TikTok, em junho, foi acusado de censurar termos antirracismo, mas permitir conteúdo racista. Na ocasião, frases como “I am a neo nazi” ("Eu sou neonazista") e “I am an anti semetic” ("Eu sou antissemita") foram aceitas nas legendas, mas “I am a black man” ("Eu sou um homem preto") era vedada.

Em 2015, o aplicativo Fotos, do Google, rotulou imagens de negros como "gorillas". A empresa se disse chocada e genuinamente arrependida, embora a correção àquela altura tenha sido apenas censurar buscas de fotos e tags com o termo.

Fonte: BBC News