IA de Elon Musk processa estado dos EUA para continuar gerando nudes

Criadora do Grok, a xAI dobrou a aposta e processou o estado de Minnesota, nos EUA. A ação judicial é uma resposta da empresa a uma lei estadual que exige o fim da criação de nudes sem consentimento com IA na plataforma.

O projeto de lei da Minnesota já foi aprovado e vai entrar em vigor no próximo sábado, dia 1º de agosto. O texto responsabiliza as plataformas por permitirem a criação das imagens íntimas e prevê uma multa de até US$ 500 mil (cerca de R$ 2,5 milhões em conversão direta) para cada conteúdo gerado e identificado no estado.

Além disso, as vítimas poderiam processar a companhia diretamente.

O que diz a criadora do Grok?

A xAI alega que as medidas são muito severas e que um único usuário pode gerar várias imagens diferentes, o que resultaria num prejuízo financeiro imenso para a empresa.

A empresa considera limitar a geração de imagens no Grok, mas prefere manter a IA sem alterações e priorizar o efeito dos termos de uso, que preveem que as contas podem ser banidas ao criar imagens íntimas sem consentimento.

O texto do processo, obtido pelo site Ars Technica, menciona que as imagens com nudez poderiam ser aplicadas em outras expressões “totalmente protegidas” pela constituição dos EUA. A defesa da xAI ainda faz queixas dos critérios usados pelo estado para determinar uma imagem íntima, incluindo aquelas sem nudez explícita.

No começo do ano, o X permitiu que diversas pessoas criassem imagens sensuais sem consentimento a partir de comandos de texto simples para o Grok. O caso chamou a atenção de autoridades no mundo todo e resultou em novos mecanismos de proteção para evitar que qualquer foto na rede fosse transformada em deepfake.

No entanto, investigações recentes identificaram que o Grok ainda poderia ser usado para gerar conteúdos do tipo.