Algoritmo identifica perfis sociais de mulheres em filmes pornô e levanta debate

Um homem supostamente baseado na Alemanha afirmou, via Twitter e Weibo, que utilizou um algoritmo de reconhecimento facial para cruzar referências e encontrar, nas redes sociais, perfis de mulheres que aparecem em vídeos adultos de plataformas como o Pornhub. Até o momento, não foi publicada nenhuma evidência que confirme a veracidade de tais afirmações e o usuário em questão não postou nenhum código ou software para download. Ao menos, não publicamente.

Ainda assim, a situação viralizou e chamou a atenção de diversos grupos online e especialistas no ativismo digital — sobretudo especialistas e autoras de literatura feminista, que acusam a noção de tal algoritmo de ser propositalmente direcionada ao sexismo online.

O usuário em questão disse ter sido capaz de identificar “mais de 100 mil” perfis em redes sociais pertencentes a mulheres que atuam ou atuaram em filmes pornô dentro das plataformas de alto acesso. Ao Motherboard, o braço tecnológico da Vice, ele prometeu que soltaria informações concretas entre esta e a próxima semana, sem elaborar mais sobre o assunto.

Questionado por suas razões, o usuário disse, primeiramente, que fez isso em nome de “ter o direito de saber nos dois lados do casamento”. Após a reação pública em ambas as redes sociais, porém, seu discurso mudou, dizendo que desenvolveu o programa junto de amigos “para permitir que mulheres, com ou sem seus noivos, possam verificar se estão em sites pornográficos e emitir pedidos de remoção de conteúdo”.

A autora Soraya Chemaly, que escreveu o livro Rage Becomes Her: The Power of Women’s Anger (inédito no Brasil), tuitou sobre o caso e disse “Isso é horrendo, além de um exemplo perfeito sobre como esses sistemas, globalmente, permitem a dominância masculina”. A autora seguiu seu raciocínio: “Vigilância, roubo de identidade, extorsão, desinformação - tudo isso acontece primeiro com as mulheres e só então se movem à esfera pública, onde, só depois que os homens são afetados, começa a ganhar atenção”.

O grande problema com o suposto algoritmo — seja ele real ou não — é o fato de ele poder abrir caminho para o abuso e assédio de mulheres nas redes sociais. Tal qual a tecnologia dos deepfakes, onde a inteligência artificial é empregada para posicionar rostos de celebridades nos corpos de atrizes pornô, o uso de machine learning para controlar e extorquir a autonomia corporal das mulheres é uma possibilidade grande aqui.

Segundo Danielle Citron, professora de Direito da Universidade de Maryland, que também tuitou sobre o assunto, essa suposta tecnologia é “uma ideia dolorosamente ruim — vigilância e controle do corpo da mulher reduzido a um ponto ainda mais baixo”.

Em 2017, o próprio Pornhub anunciou a criação de um algoritmo de reconhecimento facial em seu site com o objetivo de auxiliar usuários a encontrarem suas atrizes e estrelas favoritas nos vídeos publicados. O problema é que isso teoricamente também poderia ser usado na identificação e assédio virtual de mulheres.

Em 2018, segundo a Vice, trolls online compilaram uma lista de profissionais do sexo, revelando, no processo, pessoas que se mantinham na atividade em segredo. A consequência disso foi grave para muitas mulheres, que viram seus perfis pessoais em redes sociais invadidos, atacados ou derrubados pelas plataformas, além de sistemas de pagamento online como PayPal cancelarem suas contas, deixando-as sem uma renda pelo seu trabalho.

Novamente, é importante reiterar que, no momento, não há evidências de que o tal recurso exista: o que temos até o momento são um par de postagens em redes sociais, com alguém dizendo ter feito alguma coisa. Entretanto, um conhecimento moderado de programação pode, em teoria, tornar tal tecnologia possível. E isso é o que vem incomodando grupos de ativismo digital.

Fonte: Vice