Deepfakes sexuais: adolescentes processam xAI por conteúdos gerados pelo Grok
Por João Melo |
Um processo judicial coletivo aberto na última segunda-feira (16), no Distrito Norte da Califórnia (EUA), acusa a xAI de ter gerado, comercializado e lucrado com a criação de conteúdos sexuais produzidos a partir do Grok. A ação foi movida após uma onda de deepfakes sexuais inundar o X (antigo Twitter) no início deste ano.
- X é investigado na Europa devido aos deepfakes sexuais criados com IA pelo Grok
- Grok é bloqueado em alguns países após gerar deepfake sensual sem consentimento
De acordo com informações divulgadas pelo Washington Post, o processo tem três autores, incluindo dois menores de idade. Eles alegam também à Justiça que a empresa liderada por Elon Musk não implementou medidas para impedir a produção de conteúdos sexualizados envolvendo menores de idade.
Mas, apesar de diversos exemplos de mídias sensíveis terem vindo à tona em 2026, o caso que deu início à ação tem origem em 2025. Em dezembro do ano passado, um homem foi preso após utilizar fotos e vídeos das redes sociais de adolescentes para, com o auxílio do Grok, gerar imagens de nudez explícita.
Esses conteúdos foram posteriormente compartilhados e vendidos em plataformas como Discord e Telegram. Mais de 18 jovens tiveram suas fotos editadas e compartilhadas pelo autor do crime.
Onda de conteúdos explícitos no X
Desde janeiro de 2026, foi possível ver um grande número de postagens de deepfakes sensuais sem consentimento. As imagens eram geradas e editadas pela IA do Grok diretamente na publicação original feita pelos usuários.
Elon Musk, CEO do X e também da xAI, atribuiu a responsabilidade pelos conteúdos de nudez às solicitações feitas pelos usuários e a “ataques maliciosos” direcionados ao Grok.
Pouco tempo depois, no entanto, a xAI afirmou que teria bloqueado a geração de deepfakes sexuais a partir de sua ferramenta de IA. A empresa ressaltou que teriam sido implementadas “medidas tecnológicas” para impedir o uso do Grok para esse tipo de prática.
O X também adicionou uma novo recurso para evitar que o Grok edite ou crie variações de imagens originais publicadas na plataforma. Contudo, a funcionalidade apresenta brechas técnicas que ainda possibilitam gerar esses conteúdos sem consentimento com uma certa facilidade.