Governo determina que X adote medidas imediatas contra deepfakes sexuais
Por João Melo • Editado por Bruno De Blasi |
Órgãos do Governo Federal determinaram que o X (antigo Twitter) deve adotar, de forma imediata, uma série de medidas para impedir a criação e disseminação de deepfakes sexuais. As ordens foram expedidas diante da proliferação de conteúdos sensíveis e sem consentimento na plataforma a partir do Grok.
- Deepfakes estão fora de controle? Entenda os riscos e como se proteger
- Como saber se uma foto foi criada por Inteligência Artificial
A decisão veio após a plataforma informar que removeu milhares de publicações e contas ligadas a conteúdos ilegais.
No entanto, a Agência Nacional de Proteção de Dados (ANPD), o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (SENACON) concluíram que as providências adotadas pela plataforma foram insuficientes para conter o uso da IA para edição e publicação das mídias.
Medidas a serem adotadas pela rede social
As determinações elaboradas pela Senacon e pela ANPD exigem que a rede social implemente soluções técnicas a fim de impedir que o Grok viabilize a geração de conteúdos de cunho sexual sem consentimento.
As secretarias também ordenaram que a plataforma forneça uma lista enumerada detalhando as providências já tomadas para bloquear a geração das mídias em questão, além de dados sobre a identificação e remoção de postagens.
O MPF, por sua vez, determinou que a rede social de Elon Musk entregue relatórios mensais com detalhes de como está atuando para reprimir a produção de deepfakes sexuais. A medida foi imposta devido à falta de transparência da plataforma em relação às ações para coibir a geração de conteúdos sensíveis.
O descumprimento das providências estabelecidas e a eventual continuidade das irregularidades podem resultar em multas diárias e na responsabilização por crime de desobediência.
Grok usado para gerar deepfakes sexuais
Desde o início do ano, foi identificada uma onda de geração e publicação de deepfakes sexuais no X. Usuários utilizam a ferramenta de IA Grok para solicitar a edição de imagens, produzindo conteúdos sensíveis envolvendo menores de idade e adultos sem consentimento.
Países como Indonésia e Malásia bloquearam o acesso ao Grok dentro da rede social devido à produção de conteúdos ilegais. Já o Reino Unido e a União Europeia abriram investigações para avaliar se a plataforma está infringindo normas relacionadas à mitigação e prevenção de conteúdos nocivos aos usuários.
No Brasil, o Instituto de Defesa do Consumidor (Idec) já havia solicitado a suspensão do Grok ao identificar "violações graves" associadas ao uso da IA na rede social.
Leia também: