Algoritmos do Tumblr bloqueiam imagens inofensivas como se fossem pornografia

Nesta segunda-feira (3), o Tumblr anunciou que começará a banir todo o conteúdo sexual explícito de sua plataforma a partir de 17 de dezembro. Segundo porta-vozes da rede social, as políticas de proibição de conteúdos pornográficos baniriam imagens, GIFS, vídeos e ilustrações contendo genitálias humanas e mamilos femininos. Entretanto, o Tumblr não pretende ser tão duro no veto: mamilos femininos em contextos como amamentação ou postagens de saúde serão tolerados, assim como nus artísticos.

Entretanto, conteúdos totalmente inocentes estão sendo apontados como sexualmente explícitos pelos algoritmos de detecção automática da rede social, que eram originalmente parte do Modo de Segurança do Tumblr e foram estendidos para toda a plataforma. Enquanto fotos de pessoas com roupas justas foram marcadas como explícitas, imagens mostrando próteses penianas passaram suavemente sob os radares, não levantando suspeitas. Na reprodução abaixo, é possível ver uma ilustração de uma bruxa e duas focas flutuando entre algas que foi apontada pelo algoritmo do Tumblr como sendo sexualmente explícita:

Os erros já eram previstos pelas equipes do Tumblr, no entanto. Segundo um post no blog da rede social feito pelo próprio CEO, Jeff D'Onofrio, "estamos contando com ferramentas automatizadas para identificar conteúdo adulto e humanos para ajudar a treinar e manter nossos sistemas sob controle; sabemos que haverá erros". A postagem trazia ainda a explicação que "os computadores são melhores que os humanos no processo de dimensionamento — e nós precisamos deles para isso — mas eles não são tão bons em tomar decisões contextuais". A publicação se conclui dizendo que será "um processo em evolução para todos nós e estamos comprometidos em fazer isso direito".

Os conteúdos sinalizados erroneamente como sexualmente explícitos podem ser contestados, o que fará com que eles passem pela avaliação de moderadores de conteúdo da plataforma.

Fonte: The Verge