Deepfakes sexuais no Grok foram bloqueados, afirma xAI de Elon Musk
Por João Melo • Editado por Bruno De Blasi | •
O xAI afirmou que bloqueou a geração de deepfakes sexuais criados com o Grok no X (ex-Twitter). Em comunicado publicado nesta quarta-feira (14), a plataforma ressaltou que mantém uma política de “tolerância zero” contra todas as formas de exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado.
Segundo o posicionamento, foram implementadas "medidas tecnológicas" ao Grok para impedir a criação de deepfakes sexuais, incluindo conteúdos envolvendo pessoas de biquíni e roupas íntimas.
Além disso, a criação e a edição de imagens na conta do Grok dentro da plataforma estão disponíveis apenas para assinantes pagos.
“Isso adiciona uma camada extra de proteção, ajudando a garantir que indivíduos que tentem abusar da conta do Grok para violar a lei ou nossas políticas possam ser responsabilizados”, destacou o X em nota.
Ainda há brecha para a edição de imagens
No entanto, como noticiado anteriormente pelo Canaltech, esse bloqueio afeta apenas solicitações realizadas em postagens do X que mencionam o perfil “@grok” e pedem uma edição.
Testes realizados nesta quinta-feira mostram que ainda é possível solicitar e gerar imagens de pessoas de biquíni, por exemplo, por meio do botão de edição de imagens exibido em fotos publicadas na plataforma.
Esse gerador possui um limite diário que, após ser atingido, informa que o usuário precisa assinar um plano pago do X para continuar utilizando o recurso.
Elon Musk culpa os pedidos feitos pelos usuários
Elon Musk, CEO do X e também da xAI — empresa responsável pelo Grok —, publicou uma postagem na rede social rebatendo acusações sobre a geração de imagens sexualizadas de menores de idade por meio da IA.
Ele atribuiu a responsabilidade aos usuários e também a “ataques maliciosos” direcionados ao Grok.
“Obviamente, o Grok não gera imagens espontaneamente; ele faz isso apenas de acordo com as solicitações do usuário”, escreveu o bilionário.
Musk também afirmou que a ferramenta se recusa a produzir imagens com conteúdos ilegais a partir dos pedidos dos usuários, dizendo que a IA tem como princípio obedecer às leis de qualquer país.
Acusações, investigação e proibição em alguns países
O Grok passou a ser utilizado por usuários para gerar deepfakes sexualizados sem consentimento a partir de posts feitos no feed do X. Após acusações feitas por diversas contas na plataforma, foram iniciadas investigações sobre a prática na rede social.
O Reino Unido, por exemplo, abriu uma investigação para apurar possíveis violações das leis de segurança online. A empresa pode enfrentar multas de até € 18 milhões (cerca de R$ 113 milhões, na cotação atual) — ou 10% da receita global da companhia — caso as infrações sejam confirmadas.
Já no Sudeste Asiático, países como Indonésia e Malásia bloquearam o acesso ao Grok dentro do X. As autoridades classificaram o uso da IA para a geração de conteúdos pornográficos como uma violação grave dos direitos humanos e da segurança digital.
No Brasil, a deputada federal Erika Hilton (PSOL) apresentou uma denúncia ao Ministério Público Federal (MPF) e à Agência Nacional de Proteção de Dados (ANPD), solicitando a desativação da ferramenta da xAI no país.
O Instituto Brasileiro de Defesa do Consumidor (Idec) também solicitou a suspensão do Grok no Brasil após identificar “violações graves” associadas ao seu uso. O ofício do Idec foi encaminhado ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital.
Leia também:
VÍDEO: IA de Musk gera polêmica com deepfakes. Até onde a IA pode ir sem invadir a privacidade?