MPF e ANPD exigem que X bloqueie deepfakes sexuais no Grok
Por Marcelo Fischer Salvatico • Editado por Bruno De Blasi | •
O Ministério Público Federal (MPF), a Autoridade Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) expediram uma recomendação conjunta para que a X Brasil Internet Ltda. adote medidas imediatas em relação à sua ferramenta de inteligência artificial, o Grok.
- Afinal, o que é a 'lei dos influenciadores digitais'? Entenda o que vai mudar
- Dona do ChatGPT vai focar na 'adoção prática' da IA em 2026, diz executiva
O documento exige que a plataforma impeça a geração de imagens sexualizadas de pessoas reais, incluindo crianças e adolescentes, sem o consentimento das vítimas.
A ação coordenada pelos órgãos aponta que a ferramenta de edição de imagens do Grok permite a criação de deepfakes de teor erótico e pronográfico a partir de fotos reais.
Segundo a recomendação, essas práticas violam direitos fundamentais, como a dignidade humana, a privacidade, a autodeterminação sexual e a proteção integral de menores de idade.
Os órgãos estabeleceram um prazo de até 27 de janeiro para que a rede social de Elon Musk informe se acatará as medidas. O documento estipula que a empresa deve implementar salvaguardas técnicas e administrativas para bloquear a criação desses conteúdos tanto para figuras públicas quanto para cidadãos comuns.
Plataforma como coautora do conteúdo
Um dos pontos centrais da argumentação do MPF e das agências reguladoras é a responsabilidade da X sobre o material gerado. O texto sustenta que a plataforma X não pode ser tratada apenas como uma intermediária passiva de conteúdo.
De acordo com o documento, os deepfakes resultam de uma interação direta entre os comandos dos usuários e a ferramenta de inteligência artificial (IA) desenvolvida e disponibilizada pela empresa. A recomendação classifica a X como “coautora de tais conteúdos”, afastando a imunidade prevista no artigo 19 do Marco Civil da Internet para casos de conteúdo gerado por terceiros.
Exigências e prazos
Além do bloqueio imediato da geração de novas imagens ilíticas, a recomendação conjunta impõe outras obrigações à plataforma. A empresa deve estabelecer, em até 30 dias, procedimentos claros e eficazes para identificar e excluir conteúdos já publicados que representem crianças e adolescentes em contextos sexualizados.
O documento exige também a aplicação rigorosa das políticas de uso da própria rede social, que já proíbem a nudez não consensual e a exploração sexual infantil. Isso inclui a suspensão imediata e permanente de contas envolvidas na produção ou compartilhamento exclusivo desse tipo de material.
Caso a recomendação não seja acatada, os órgãos alertam para a possibilidade de medidas administrativas e judiciais. As sanções podem se basear no Marco Civil da Internet, no Código de Defesa do Consumidor e na Lei Geral de Proteção de Dados (LGPD).
Embora a medida busque mitigar danos, o Instituto de Defesa de Consumidores (Idec) considerou a recomendação insuficiente. A entidade defende a suspensão do Grok no Brasil até que a segurança dos consumidores seja garantida, classificando a ação dos órgãos como uma medida burocrática diante da gravidade dos casos.
Veja também:
- Inteligência artificial redesenha o mercado e impulsiona novas carreiras
- Pix mais seguro: nova regra de reembolso vira obrigatória em fevereiro
- Gastos mundiais com IA chegarão a US$ 2,5 trilhões, estima Gartner
Ouça o Podcast Canaltech: