Padrasto usava o Grok para criar mais de 7 mil imagens criminosas da enteada

Um padrasto usou a IA Grok para criar mais de 7 mil imagens sensuais com fotos de infância da própria enteada. O caso aconteceu no estado de Wyoming, nos Estados Unidos, e virou um processo contra a empresa de IA.

De acordo com o jornal Washington Post, uma operação policial na casa do padrasto apreendeu aparelhos eletrônicos e identificou que o homem criava imagens eróticas da vítima sem consentimento para negociá-las online. Foram milhares de criações, incluindo versões com fotos de quando a pessoa tinha 11 anos.

O padrasto foi encontrado morto por suicídio alguns dias após a operação e a vítima abriu um processo contra a xAI, empresa de Elon Musk criadora do Grok. Há, ainda, um, processo federal movido por outras três jovens estadunidenses que acusam o uso da ferramenta para criar versões sensuais de fotos tiradas quando eram mais novas.

Grok no centro da discussão

O caso é mais uma consequência da onda de deepfakes criadas pelo Grok. A situação começou em janeiro deste ano, quando a integração da IA com o X permitia criar imagens eróticas de qualquer perfil público na rede social sem o consentimento da pessoa e com comandos simples.

A ferramenta de IA foi alvo de investigações em diferentes países, incluindo o Brasil, e depois incluiu mecanismos de segurança para evitar comandos do tipo pelo X. 

No entanto, o problema com os deepfakes ainda é grande: a IA generativa consegue ser usada para criar imagens em massa e ferramentas que “driblam” os mecanismos de segurança ainda são amplamente divulgadas.

Caso você tenha sido vítima de um ataque por deepfake, o ideal é juntar a maior quantidade de provas e registrar um boletim de ocorrência online.