Microsoft ainda permite pornografia infantil no Bing, mesmo ciente

De volta em julho de 2018, o Adriano Ponte, apresentador aqui no Canaltech, veio me mostrar uma música no Deezer (no notebook, mesmo) e foi na busca do Windows (que usa o Bing para resultados na internet) como atalho para entrar no site do serviço de streaming. As primeiras letras digitadas, entretanto, foram ilustradas na seguinte sugestão: “deep web pedrofilia links”.

Nós dois tivemos a mesma reação de “que absurdo foi esse?!”, e então eu fiquei encarregado de procurar mais detalhes e reportar à Microsoft, proprietária do Bing, a fim de encontrar respostas. Sobre o assunto, a assessoria de imprensa da empresa no Brasil nos respondeu em 31/07/2018:

"Tratamos assuntos como esse com a máxima seriedade. Logo que tomamos conhecimento desses tipos de resultados de pesquisa, tomamos medidas para removê-los o mais rápido possível, além de relatar essas informações às autoridades competentes.”

Pouco tempo depois, de fato, ao digitar o mesmo termo “dee” tanto no Bing.com quanto na busca do Windows e nos aplicativos para Android e iOS, as sugestões pareciam mais comuns.

Há de se dizer, entretanto: o tema em questão, por ser de extrema sensibilidade, precisou de cautela antes do aval para ser publicado inicialmente, em agosto, quando o problema foi “resolvido” após a denúncia do Canaltech. Este não é um comportamento padrão de membros da imprensa que cobrem tecnologia, mas sim algo que pode variar de acordo com a linha editorial, já que o público, presume-se, é o impactado.

Agora, em janeiro, o site TechCrunch reportou que recebeu uma denúncia anônima de que o buscador Bing se mostrou suscetível a exibir imagens ilegais de exploração infantil. Também foi constatado que o mecanismo da Microsoft sugere palavras-chave que forneçam resultados sobre pedofilia e conteúdo pornográfico infantil.

O TechCrunch chegou nestes resultados após encomendar um relatório da startup de segurança online AntiToxin Technologies para investigar o caso. A pesquisa foi realizada “entre 30 de dezembro de 2018 e 7 de janeiro de 2019, com a devida supervisão legal”.

Todas as imagens explícitas da pesquisa foram cobertas com quadrados vermelhos. Vale o aviso, também, de que não se deve pesquisar pelos termos relatados aqui, no TechCrunch ou no relatório da AntiToxin em nenhuma plataforma — uma vez que pedofilia, dentro e fora da internet, é crime previsto por lei.

A propósito, também não queremos comparar as publicações (do site norte-americano e nossa) pela periodicidade, mas sim levantar o seguinte ponto: a Microsoft sabia do problema, só não o corrigiu.

A AntiToxin constatou que alguns termos da pesquisa foram “banidos ou limpos adequadamente”, mas que outros ainda exibiam conteúdo ilegal. Às 10h22 desta terça (15), o Bing seguia sugerindo a busca "deep web pedrofilia links" ao digitar “dee”.

Os termos utilizados pela equipe que conduziu a pesquisa no Bing estão atribuídos ao Omegle, serviço que permite você interagir com desconhecidos aleatoriamente, usando webcam ou não.

Numa página reservada para o buscador, a Microsoft dá mais detalhes sobre como funciona o autocompletar, citando a API v7 como um dos pontos chave. A ideia aqui é “adicionar recursos inteligentes de digitação antecipada ao seu aplicativo ou site [do Bing]”.

Outro ponto citado pela Microsoft é que a API v7 é uma das responsáveis por capacitar os usuários a “digitar menos e fazer mais com sugestões de pesquisa automatizadas e completas”.

A empresa também afirmou recentemente que o Bing “indexa tudo, assim como o Google”, mas que usando uma combinação de PhotoDNA e moderação humana (sem especificar qual o tamanho do grupo), tenta evitar esse tipo de resultado.

O Google, por sua vez, especifica que o seu sistema faz “previsões, não sugestões”. O buscador também especifica que "o preenchimento automático foi projetado para ajudar as pessoas a concluir uma pesquisa que pretendiam fazer, não para sugerir novos tipos de pesquisas a serem realizadas.”

O que diz a Microsoft hoje vs o que disse em 2013

Em comunicado emitido em 11 de janeiro sobre a pesquisa do TechCrunch + AntiToxin, Jordi Robas, CVP do Bing e de Produtos de AI da Microsoft, disse:

"Claramente, esses resultados são inaceitáveis para os nossos padrões e políticas, e valorizamos o alerta do TechCrunch. Nós agimos imediatamente para removê-los, mas também queremos evitar quaisquer outras violações semelhantes no futuro. Estamos focados em aprender com isso para então podermos fazer quaisquer outras melhorias necessárias".

De acordo com um infográfico divulgado pela própria equipe do Bing no Twitter, a empresa deteve 4% do mercado nacional de buscas na internet no ano de 2017, com dados relacionados a junho do mesmo ano. Nos EUA, a empresa afirma ter alcançado 33%.

A responsabilidade moral que a Microsoft tem com o Bing, no período das denúncias de 2013 até as novas de 2018 e 2019, continua a mesma. Em 2013, uma denúncia do Gizmodo fez a Microsoft bloquear buscas relacionadas a pedofilia. Na época, o filtro foi “corrigido”, logo continuou ineficaz e ainda exibindo resultados do tipo.

As denúncias também atingiram o buscador Google no mesmo período, fazendo com que o principal buscador web tomasse novas medidas, aumentando também os investimentos para “erradicar imagens infantis relacionadas a pornografia da internet”, como citou o The Telegraph.

A Microsoft não foi capaz de erradicar o problema em 2013, e não criou, até então, um filtro verdadeiramente funcional para evitar que imagens e resultados como estes fossem expostos. Pior que isso, o problema também envolve um buscador que sugere resultados relacionados a conteúdo pornográfico infantil mesmo quando o que se busca nada tem a ver com o caso.

Foi dito ao Gizmodo na denúncia de 2013 que a Microsoft já havia colocado sua equipe para “resolver o problema o mais rápido possível”, algo que também foi repetido nos dias de hoje. E em pleno 2019, decorridos quase seis anos após o primeiro alerta, o motor de buscas continua sugerindo links relacionados a pedofilia. Seria isso compactuação com o amoral e criminoso? Má vontade? Falta de interesse? Fica aqui o questionamento, pois o assunto é sério demais para ser ignorado.