Pornografia infantil gerada por IA dificulta investigações da polícia

Autoridades especializadas em segurança infantil enfrentam um novo desafio quanto ao combate à pedofilia, pois cibercriminosos tem usado plataformas de inteligência artificial generativa para criar e compartilhar imagens “realistas” de sexo envolvendo crianças.

• IA da Meta copia a voz de alguém com apenas 2 segundos de amostra
• IA da Meta é capaz de criar imagens quase como um humano

Segundo especialistas ouvidos pelo The Washington Post, esse tipo de material atrapalha investigações de casos reais e está presente sobretudo em fóruns da dark web — o que complica ainda mais o trabalho da polícia em localizar criminosos e crianças desaparecidas.

IA atrapalhando a polícia

O grupo sem fins lucrativos especializado em segurança infantil Thorn afirmou que encontrar vítimas retratadas em materiais de abuso infantil tem se tornado procurar “agulha em palheiro”, pois o realismo das imagens geradas por IA sobrecarrega os profissionais que agora têm a tarefa adicional de separar fotos falsas e autênticas.

Os especialistas também relatam que os fóruns ilegais estimulam outros usuários a alimentarem as páginas com novas deepfakes geradas por inteligência artificial, e isso tem contribuído para “aperfeiçoar” a tecnologia — uma vez que ela é capaz de aprender com novas adições em seu banco de dados. Em decorrência disso, a prática se torna cada vez mais popular e chama a atenção de usuários mal-intencionados que veem a situação como uma oportunidade para consumir conteúdo ilegal.

Reaproveitamento de imagens

De acordo com a diretora de ciência de dados do grupo Thorn, Rebecca Portnoff, ainda há outro problema envolvendo reutilização de imagens: a inteligência artificial pode "revitimizar" qualquer pessoa que sofreu abuso no passado com base em imagens disponíveis da ocorrência. A especialista explicou que esse tipo de material seria usado para treinar as plataformas na geração de conteúdo falso.

As ferramentas de proteção infantil de sites como redes sociais e fóruns costumam detectar quando imagens de abuso são compartilhadas novamente e bloqueam seu envio. Contudo, é importante destacar que a tecnologia tem suas limitações ao detectar somente materiais denunciados no passado — sendo ineficaz em classificar registros recém-criados pelas inteligências artificiais.

Apesar de não haver registros desse tipo de ocorrência no Brasil até o momento, é muito útil saber como denunciar crimes virtuais caso você testemunhe qualquer prática desse tipo.

Fonte: The Washington Post