Meta declara guerra a apps de IA que criam 'nudes' falsos sem consentimento
Por André Lourenti Magalhães • Editado por Bruno De Blasi | •
A Meta adotou medidas mais restritivas para combater de aplicativos de IA que transformam fotos em “nudes” artificiais sem o consentimento da pessoa. Além de processar uma empresa responsável por uma ferramenta do tipo, a Big Tech reforçou que é proibido divulgar tais serviços no Facebook e no Instagram e vai colaborar com investigações sobre o tema.
Os aplicativos em questão são chamados de “nudify” — ferramentas de IA que criam deepfakes com nudez a partir da foto de uma pessoa. No Brasil, há uma lei que proíbe violência psicológica contra a mulher com imagens falsas e a pena pode ser ampliada caso seja confirmado o uso de inteligência artificial.
A Meta abriu um processo contra a empresa Joy Timeline HK Limited, baseada em Hong Kong e desenvolvedora de um aplicativo de deepfakes.
A dona de Facebook e Instagram identificou algumas tentativas de “driblar” os mecanismos de avaliação dos anúncios e teve que tirar vários posts da companhia asiática do ar antes de entrar com ação judicial.
Mais medidas contra deepfakes
Em nota, a Meta alerta que apps que criam nudes ainda podem ser encontrados pela internet, inclusive dentro das lojas dos principais sistemas operacionais. Portanto, o objetivo não é apenas combater os anúncios nos próprios produtos, mas também diminuir a proliferação em outras plataformas.
A partir deste mês, ao remover uma conta e os anúncios promovendo tais serviços, a empresa vai compartilhar informações para a Coalizão Lanterna, espaço em que várias companhias de tecnologia podem ser alertadas sobre contas que compartilham conteúdo que viola políticas de proteção infantil.
Além disso, a Big Tech identificou os padrões adotados por tais apps, inclusive aqueles que usam posts que não violam os termos de anúncios da Meta, e vai usar tecnologias para reconhecer e banir possíveis perfis fraudulentos.
Leia também:
- Espanha cria lei para criminalizar deepfakes de nudez feitos com IA
- Como saber se uma foto foi criada por Inteligência Artificial
- Por que Disney e Universal processam a IA Midjourney?
VÍDEO: você sabe identificar um deepfake?