X é investigado na Europa devido aos deepfakes sexuais criados com IA pelo Grok
Por João Melo • Editado por Bruno De Blasi |
A Comissão Europeia abriu uma investigação para avaliar a atuação do X (antigo Twitter) no caso dos deepfakes sexuais criados com inteligência artificial (IA) por meio do Grok. O inquérito busca verificar se a rede social está seguindo as normas estabelecidas pelo Regulamento dos Serviços Digitais (RSD) na Europa.
- Deepfakes sexuais no Grok foram bloqueados, afirma xAI de Elon Musk
- Grok é bloqueado em alguns países após gerar deepfake sensual sem consentimento
“A nova investigação avaliará se a empresa avaliou e mitigou adequadamente os riscos associados à implementação das funcionalidades do Grok no X na União Europeia. Isso inclui riscos relacionados à disseminação de conteúdo ilegal na UE, como imagens sexualmente explícitas manipuladas, incluindo conteúdos que possam se enquadrar como material de abuso sexual infantil”, informou o órgão da União Europeia (UE) em comunicado.
A UE destaca que há indícios de que esses riscos se concretizaram, e que cidadãos dos países pertencentes ao bloco foram expostos a “danos graves”.
A Comissão também informou que dará continuidade às investigações que avaliam se o X cumpre obrigações relacionadas ao RSD. Entre elas, estão:
- Minimizar a disseminação de conteúdos ilegais;
- Mitigar as consequências negativas decorrentes da implementação das funcionalidades do Grok na plataforma;
- Elaborar e enviar à UE relatórios sobre avaliações de risco relacionadas aos recursos do Grok na rede social.
Possíveis desdobramentos da investigação
A Comissão informa que, caso sejam constatadas infrações às regras estabelecidas pelo RSD, a empresa de Elon Musk pode ser alvo de medidas provisórias. A suspensão temporária de funcionalidades específicas da rede social é uma das possibilidades.
A não conformidade com os termos impostos pela legislação também pode resultar em multas de até 6% do volume anual de negócios da companhia. Em dezembro de 2025, uma decisão da UE sobre a falta de transparência por parte do X já resultou em uma multa de 120 milhões de euros à empresa.
Expansão de inquérito aberto em 2023
Apesar de ter como foco a disseminação de conteúdos ilegais associados aos recursos do Grok, a nova investigação é tratada pela Comissão Europeia como uma expansão de um inquérito instaurado em dezembro de 2023 contra o X.
Esse processo, por sua vez, tem como pilar a análise do funcionamento do mecanismo de notificação e ação da rede social, bem como de suas medidas para minimizar o compartilhamento de conteúdos ilegais — como aqueles associados ao terrorismo.
A investigação de 2023 também avalia os riscos relacionados ao sistema de recomendação do X, incluindo um novo mecanismo algorítmico baseado nos recursos do Grok que, segundo a Comissão, pode infringir as diretrizes do Regulamento dos Serviços Digitais.
Leia também:
- Idec solicita suspensão do Grok no Brasil após gerar deepfakes sexuais
- Deepfakes estão fora de controle? Entenda os riscos e como se proteger
- Como saber se uma foto foi criada por Inteligência Artificial
VÍDEO: IA de Musk gera polêmica com deepfakes. Até onde a IA pode ir sem invadir a privacidade?