Grok é bloqueado em alguns países após gerar deepfake sensual sem consentimento
Por Marcelo Fischer Salvatico • Editado por Bruno De Blasi |
A Indonésia e a Malásia bloquearam o acesso ao Grok, chatbot de inteligência artificial (IA) de Elon Musk integrado à rede social X — o antigo Twitter. Os países do sudeste asiático são os primeiros a bloquear a plataforma em seu território após a ferramenta ser amplamente utilizada para criar "deepfakes" sexualmente explícitos — incluindo imagens de menores de idade — sem o consentimento das vítimas.
- Grok alega restringir geração de imagens e deepfakes, mas ainda há brecha
- X afirma que vai suspender contas de quem cria conteúdos ilegais com a IA Grok
A decisão foi anunciada pelos ministérios de comunicação de ambas as nações neste fim de semana. Autoridades locais classificaram o uso da IA para produzir pornografia falsa como uma violação grave dos direitos humanos e da segurança digital.
O bloqueio permanecerá em vigor até que a xAI, empresa responsável pela ferramenta, implemente mecanismos eficazes para impedir a geração desse tipo de conteúdo.
Na Indonésia, que possui leis anti-pornografia rigorosas, a ministra de Assuntos Digitais, Meutya Hafid, destacou que a medida visa proteger especialmente mulheres e crianças.
Já na Malásia, a Comissão de Comunicações e Multimídia (MCMC) afirmou que o X falhou repetidamente em abordar os riscos inerentes da ferramenta, focando apenas em mecanismos de denúncia iniciados pelos usuários, o que foi considerado insuficiente.
Deepfakes no Grok
Os bloqueios ocorrem após usuários usarem o Grok para editar fotos de pessoas reais — inclusive menores de idade — para simular que elas estão usando biquínis ou roupas íntimas.
Diferente de outros modelos de IA que possuem filtros de segurança mais robustos contra a criação de material obsceno, o Grok é apontado como um ponto fora da curva por permitir edições do tipo.
Pesquisadores da organização AI Forensics analisaram 20 mil imagens geradas pela ferramenta e descobriram uma alta prevalência de comandos solicitando a remoção de roupas.
Risco de efeito dominó
Além do bloqueio nos países da Ásia, o Grok corre risco de ser limitado em outros locais. O Reino Unido já iniciou uma investigação formal contra o X, e, se comprovado que a plataforma violou leis de segurança online, a empresa enfrentará multas de até 18 milhões de euros ou 10% de sua receita global.
No Brasil, onde o próprio X já foi suspenso por quase um mês em 2024, a legislação local está avançando para criminalizar especificamente a criação de nudes falsos por IA. A União Europeia também pressiona a plataforma com base em suas leis de serviços digitais, exigindo transparência e proteção aos usuários.
Veja também:
- Como saber se uma foto foi criada por Inteligência Artificial
- "Grok, isso é verdade": por que as pessoas falam tanto isso no X?
- Não quer que o X use seus posts para treinar IA? Veja como desativar
Ouça o Podcast Canaltech: