Microsoft corrige brecha usada para criar nudes falsos de Taylor Swift
Por André Lourenti Magalhães | Editado por Douglas Ciriaco | 30 de Janeiro de 2024 às 12h24
A Microsoft consertou uma brecha no Criador de Imagens do Designer para impedir a criação de novos deepfakes pornográficos da cantora Taylor Swift e de outras celebridades, de acordo com o site 404 Media. O serviço de IA foi usado para gerar os conteúdos obscenos sem a permissão das figuras públicas com alguns truques na hora de digitar os prompts.
O site informa que pessoas no fórum anônimo 4chan e no Telegram (no qual as primeiras imagens surgiram) burlavam os sistemas de segurança do Designer na hora de criar o conteúdo: para isso, escreviam o nome da cantora com erros de digitação e descreviam situações de conotação sexual com palavras que não tinham esse teor. A Microsoft removeu essa brecha da plataforma na última semana e limitou a possibilidade de criar mais deepfakes.
Ainda de acordo com a reportagem original, o grupo no Telegram responsável pela divulgação dos conteúdos pornográficos alega não conseguir usar a ferramenta de IA do Designer para isso, mas segue publicando deepfakes feitos a partir de outros softwares.
CEO da Microsoft pede maior vigilância
O CEO da Microsoft, Satya Nadella, comentou a situação em entrevista ao canal NBC News, dos EUA. Para Nadella, é necessário reforçar a segurança dos produtos na parte interna, com melhorias aplicadas pela empresa, e na colaboração entre autoridades legais e plataformas de tecnologia:
"Duas coisas: primeiro eu vou para o que acho que é nossa responsabilidade, que são as proteções que devemos colocar em voltad a tecnologia, de forma que mais conteúdo seguro seja criado. Tem muito a ser feito nesta área e muito já está sendo feito. Mas é sobre a convergência global e da sociedade em algumas normas, e nós podemos fazer isso, especialmente quando você tem a lei, agentes da lei e plataformas de tecnologia que podem se juntar. Acho que podemos governar muito mais do que nos damos créditos."
Entenda o caso
Redes sociais como X (antigo Twitter) e Reddit receberam uma série de imagens pornográficas criadas por IA da cantora Taylor Swift na última semana. Os fãs da artista criaram tags para protegê-la e incentivaram a comunidade a denunciar contas e publicações responsáveis.
Diante da repercussão, o X decidiu bloquear a pesquisa pelo nome da cantora na plataforma, mas não conseguiu conter os posts com as nudes falsas. Pessoas ligadas a Swift revelam que a equipe da profissional considera processar os responsáveis.
Vale reforçar que tanto a criação e como a publicação de imagens sexuais sem consentimento são considerados crimes pela legislação brasileira.
Fonte: 404 Media