Para combater abuso, WhatsApp bane dois milhões de contas por mês

Sistemas de machine learning têm sido a principal arma do WhatsApp para identificar usuários que disseminam notícias falsas e criam perfis múltiplos para cometer crimes na plataforma. De acordo com dados revelados nesta quarta-feira (6) pelo mensageiro, cerca de dois milhões de contas são banidas todos os meses, algumas antes mesmo de serem ativadas para uso, justamente por conta da plataforma de inteligência artificial usada pela companhia para combater abuso.

Em apresentação na cidade de Nova Deli, na Índia, Matt Jones, um dos engenheiros de software do WhatsApp, se uniu a executivos da companhia para explicar os esforços recentes da companhia para lutar contra as fake news e o discurso de ódio na plataforma. De acordo com ele, são diversos os fatores que levaram à criação de uma inteligência artificial que a empresa considerou adequada e a experiência ruim do mensageiro com tais aspectos ao longo dos últimos anos pavimentou o caminho para as atitudes atuais.

O foco do WhatsApp é agir antes que os usuários suspeitos iniciem suas atividades danosas. Para isso, a empresa configurou em sua inteligência artificial cenários comuns entre os usuários de contas falsas, de forma a identificar comportamentos padronizados. O país de origem dos números de telefone e o IP usados (principalmente se eles se originam de países diferentes) também são responsáveis por levantar bandeiras vermelhas na plataforma. Contas que comecem a compartilhar textos logo após a criação também são um indício de problemas.

Hoje, 75% dos perfis irregulares são banidos sem a necessidade de intervenção humana e antes mesmo de começarem a agir na plataforma. O restante aparece diante dos olhos do WhatsApp pela já citada atuação irregular após a criação ou, em último caso, por meio de denúncias feitas pelos próprios usuários, com as quais o mensageiro lida tanto a partir de sistemas automatizados quanto com um time dedicado à moderação.

Fake news, abuso e discurso de ódio não são os únicos focos da aplicação, que também deseja acabar com a disseminação de golpes e mensagens de phishing. Hoje, são 1,5 bilhão de pessoas usando o WhatsApp em todo o mundo, um raro caso de aplicativo que chegou até mesmo aos usuários com menos instrução sob tecnologia. Isso tornou o mensageiro um campo fértil para crimes virtuais, algo que a empresa também não deseja mais ver acontecendo.

O sistema de inteligência artificial se une a outros dispositivos de segurança aplicados pelo WhatsApp nos últimos meses, como a limitação de encaminhamento de mensagens para no máximo cinco contatos e brechas no Recibo de Leitura usadas para ver atualizações de status e fotos sem ser flagrado. Todos, claro, também aparecem como resposta a pressões governamentais e investigações abertas ao redor do mundo sobre fake news, distribuição de conteúdo violento, abuso e até mesmo pedofilia.

Na Índia, palco das revelações desta semana, por exemplo, uma onda de linchamentos teve o WhatsApp como vetor quando habitantes de pequenas vilas no interior do país foram acusados de bruxaria e sequestro de crianças, resultando em pelo menos seis mortes. Em outros países, incluindo o Brasil e os Estados Unidos, a disseminação de fake news foi citada como um fator importante na manipulação, inclusive por agentes estrangeiros, durante recentes eleições presidenciais.

Em alguns países, a companhia também iniciou campanhas de conscientização em parceria com operadoras de telefonia e administradores de totens de propaganda. A ideia é fazer os usuários pensarem na validade das informações compartilhadas pelo WhatsApp antes de levá-las adiante. A Índia, inclusive, é um dos principais focos dessa ação, não apenas devido à escalada da violência, mas também pelas eleições marcadas para abril, que colocarão à prova a eficácia dos dispositivos de segurança apresentados nesta semana.

A companhia, entretanto, se mostra confiante, principalmente por conta dos números de utilização. De acordo com os dados do WhatsApp, 90% das conversas ainda acontecem entre apenas dois usuários, enquanto a maioria dos grupos têm menos de 10 integrantes. Os grandes fóruns de compartilhamento de mensagem ainda são minoria, o que é uma boa notícia para o mensageiro e facilita seu trabalho de moderação.

Fonte: Venture Beat