Meta falha em detectar centenas de anúncios de abuso infantil com IA

A Meta veiculou mais de 350 anúncios contendo material de abuso sexual infantil gerado ou manipulado por inteligência artificial em Facebook, Instagram e outras plataformas desde o fim de 2025, segundo investigação do Tech Transparency Project (TTP). Parte das peças usava fotos reais de crianças encontradas na internet, que eram posteriormente transformadas por ferramentas de IA em conteúdo sexual.

A investigação foi publicada nesta terça-feira (8). Os pesquisadores encontraram os anúncios na Biblioteca de Anúncios da Meta e informaram o material às autoridades americanas responsáveis por receber denúncias de exploração infantil.

O caso chama atenção porque os conteúdos não eram apenas publicações de usuários, mas de anúncios pagos que passaram pelos sistemas de análise da Meta, que afirma revisar imagens, vídeos, textos e destinos dos links antes da veiculação.

Anúncios usavam fotos reais de crianças

Segundo o TTP, a maioria das mais de 300 peças identificadas seguia um formato semelhante. Os anúncios apresentavam imagens de crianças ou adolescentes e utilizavam IA para criar vídeos com conteúdo sexual.

Os pesquisadores conseguiram identificar fotos reais de menores que haviam sido publicadas anteriormente em redes sociais, sites e bancos de imagens. Um dos casos envolvia uma fotografia oficialmente divulgada por uma família real europeia. A identidade da criança não foi revelada para preservar a vítima.

A investigação também encontrou imagens de adolescentes que mantinham perfis públicos em plataformas da própria Meta. Em um dos casos, os pesquisadores conseguiram associar a imagem utilizada no anúncio à identidade real da adolescente.

A maior parte dos anúncios direcionava os usuários para aplicativos de geração ou manipulação de imagens e vídeos por IA. Cerca de 300 das 350 peças identificadas tinham relação com esse tipo de ferramenta, segundo o TTP. Muitos dos aplicativos tinham desenvolvedores ou conexões com empresas chinesas.

Meta remove anúncios após investigação

Os anúncios deveriam ter sido barrados pelos mecanismos de moderação da Meta. A empresa informa que possui políticas específicas contra exploração sexual infantil e afirma utilizar sistemas automatizados para analisar anúncios antes que sejam publicados.

O TTP identificou, porém, 332 anúncios que passaram pelo processo de revisão. Em 1º de setembro, pouco mais da metade ainda estava disponível na Biblioteca de Anúncios. Depois que os pesquisadores compartilharam as descobertas com a Meta, a empresa removeu os 149 anúncios restantes.

A investigação encontrou outro problema na classificação das peças. Em 113 anúncios, a Meta havia registrado inicialmente violações relacionadas a conteúdo adulto ou outras políticas, sem indicar que havia material envolvendo crianças. Os registros foram alterados depois que o TTP apontou a inconsistência.

A WIRED também identificou casos em que anúncios denunciados permaneceram ativos durante dias. Um deles havia alcançado quatro contas quando foi reportado e chegou a mais de 330 visualizações antes de ser removido.

Conteúdo chegou a milhares de usuários

Os dados disponíveis na Biblioteca de Anúncios mostram que as campanhas alcançaram mais de 29 mil contas na União Europeia e cerca de 7 mil no Reino Unido. A base não fornece métricas detalhadas para todos os países, mas o TTP identificou 262 anúncios veiculados nos Estados Unidos, 120 na Austrália e 84 na Índia.

A estimativa pode ser inferior ao alcance real, já que a ferramenta da Meta não apresenta os mesmos dados para todas as regiões.

A Meta disse à WIRED que muitos dos anúncios já haviam sido removidos e que a maioria teve menos de 200 impressões. A empresa também afirmou ter recebido menos de US$ 5 mil em pagamentos relacionados às peças identificadas pelos pesquisadores.

A companhia declarou ainda que não tolera aplicativos de “nudificação” nem qualquer forma de exploração infantil, seja com material real ou gerado por IA. Segundo a Meta, criminosos mudam constantemente as estratégias utilizadas para escapar dos sistemas de detecção.

Apple e Google também removeram aplicativos

A investigação chegou aos aplicativos promovidos pelos anúncios. A WIRED identificou quase 50 apps relacionados às campanhas nas lojas da Apple e do Google.

As duas empresas informaram que removeram aplicativos associados à investigação. A Apple afirmou que tomou medidas contra os desenvolvedores envolvidos, enquanto o Google disse ter retirado os apps identificados e aplicado outras restrições contra ferramentas de “nudificação”.

O episódio também provocou reação de autoridades. Parlamentares e órgãos reguladores dos Estados Unidos e da Austrália afirmaram que estão analisando o caso, enquanto a Meta enfrenta outras disputas relacionadas à proteção de crianças em suas plataformas.