Grok alega restringir geração de imagens e deepfakes, mas ainda há brecha
Por André Lourenti Magalhães • Editado por Bruno De Blasi | •
A inteligência artificial Grok começou a restringir alguns pedidos de geração de imagens a partir de posts no X e limitá-los a assinantes pagos da plataforma. No entanto, ainda existem caminhos para acessar o editor e gerar novos deepfakes.
- Como saber se uma foto foi criada por Inteligência Artificial
- Deepfakes estão fora de controle? Entenda os riscos e como se proteger
O movimento acontece após a IA ser usada em massa para criar fotos sensuais sem consentimento na rede. Com simples comandos, era possível gerar deepfakes de pessoas de biquíni ou em posições sensuais sem a aprovação dos respectivos perfis.
O Canaltech explica a situação:
- Restrição do gerador de imagens do Grok
- Ainda existe uma brecha
- Entenda o caso
Restrição do gerador de imagens do Grok
O serviço de IA começou a barrar pedidos de geração de imagens desde a noite de ontem (8).
Quando uma conta gratuita do X menciona o perfil “@grok” e pede uma edição, automaticamente recebe uma resposta com o aviso (em inglês) “a geração e aedição de imagens atualmente estão limitadas a assinantes pagos. Você pode assinar para desbloquear esses recursos”.
Ainda existe uma brecha
No entanto, o bloqueio aparentemente afeta apenas os pedidos feitos em posts do X. A própria rede social conta com um botão para editar imagens e permite ajustá-las com qualquer prompt, conforme observado em testes do Canaltech.
O gerador tem um limite diário e para de funcionar gratuitamente após montar algumas imagens. Novamente, aparece o pedido para assinar um dos planos pagos do X.
É provável que o X tenha limitado a criação de imagens a partir dos próprios posts na plataforma. Nesses casos, a IA trazia a resposta editada num post público e qualquer pessoa podia vê-lo.
Ao usar a janela do Grok, o risco de exposição é menor, mas a ferramenta ainda permite os deepfakes.
Entenda o caso
O Grok foi usado dentro do X para criar uma enxurrada de imagens falsas com fotos de pessoas de biquíni e sem autorização. Pessoas que postavam fotos da própria aparência tiveram a imagem editada por IA sem consentimento e disponibilizadas publicamente.
A medida gerou uma série de denúncias na própria rede social e reclamações no mundo todo. Autoridades de diferentes países exigiram explicações da empresa — no Brasil, a deputada federal Erika Hilton afirmou protocolar um pedido com a Agência Nacional de Proteção de Dados para suspender o Grok no país.
O X afirmou que todas as pessoas que gerarem conteúdo ilegal na plataforma serão punidas da mesma forma que aquelas que publicam materiais impróprios, o que pode levar à exclusão da conta.
Em resposta ao portal G1, a empresa disse verificar as respostas da IA para trazer atualizações futuras.
Leia também:
- Fraudes com deepfake: como golpistas burlam biometria no Gov.br
- Gemini agora identifica fotos criadas por IA; veja como usar
- É VERDADE que as imagens geradas por IA têm marca d’água oculta que você não vê
VÍDEO: Dicas para não cair em deepfakes #Shorts