IA do Facebook já bloqueou centenas de milhões de contas falsas

O Facebook removeu, ao longo de 2019 centenas de milhões de contas falsas, que representam uma violação aos seus direitos de uso. Todo esse trabalho de limpeza, que a rede social espera ver chegando na casa do bilhão em breve, é fruto de um novo algoritmo de inteligência artificial que analisa as conexões entre amigos adicionados, páginas das quais o perfil é administrador e grupos em que ingressou para encontrar até mesmo os perfis automatizados mais sutis.

Ao apresentar os primeiros resultados do sistema chamado de Classificação Profunda de Entidade (DEC, na sigla em inglês), o Facebook afirmou estar diante de uma tecnologia capaz de melhorar bastante a saúde do serviço. Todos os detalhes, claro, não foram revelados de forma complexa justamente para que o algoritmo não possa ser burlado, mas a ideia é que ele analise “centenas” de outros elementos dos perfis da rede social para localizar as contas falsas. Em alguns casos, essa leitura mais do que dobrou a desativação de cadastros fakes na plataforma.

As idades do retratado na página, bem como dos amigos adicionados, são um indício, cruzado com os grupos de que participa e assim por diante, em uma comparação de diferentes aspectos que podem mostrar que está tudo certo, ou não, para a plataforma. Como forma de reduzir falsos positivos, o Facebook tem duas instâncias diferentes trabalhando de maneira próxima para que a confirmação tenha que vir de ambas antes de um bloqueio ou da aplicação de restrições. E o usuário, caso seja legítimo, é informado e tem a chance de apelar da decisão da rede social caso consiga comprovar sua humanidade.

Em seu relatório, o Facebook disse que o sistema funciona de maneiras diferentes de acordo com a nacionalidade de cada usuário, também como forma de reduzir falsos positivos por conta de características regionais. Além disso, a inteligência artificial também reconhece que, em alguns casos, a existência de uma conta falsa não necessariamente implica em um uso malicioso dela, sendo capaz de agir de maneiras diferentes em relação às restrições caso identifique uma variação desse tipo.

A ideia, no final das contas, é garantir que apenas aquelas usadas para irregularidades sejam retiradas do ar. O perfil de seu gato ou do seu bebê recém-nascido está seguro, enquanto um dos alvos principais do Facebook são os fakes que disseminam desinformação, espalham informações falsas, praticam spam e tentam dar golpes em usuários legítimos.

Análises humanas também entram em jogo como recurso definitivo na análise de apelações e quando a IA tiver dúvidas sobre o caráter legítimo ou não de um cadastro. Aqui entram em cena algumas dificuldades que a rede social admite que o sistema ainda possui, como o entendimento de motivações ligadas a fins políticos. Por outro lado, a confiança na tecnologia é maior, a ponto de ela ter se tornado o centro das dinâmicas de moderação da plataforma.

As estimativas do Facebook apontam que cerca de 5% de toda a atividade diária na rede social é proveniente de perfis falsos, e a ideia é reduzir esse número. E, aqui, a rede social olha para seu próximo grande desafio: a eleição presidencial americana deste ano, que acontece em novembro. A empresa afirma que a plataforma está mais segura do que há quatro anos, com os números e o andamento das campanhas em breve servindo como comprovação disso (ou não).