Governo da Índia exige ações de plataformas contra deepfakes

O governo da Índia alertou as empresas de tecnologia que vai impor restrições às suas operações no país caso elas não tomem medidas para combater a propagação de deepfakes em suas plataformas. A declaração foi dada pelo ministro de tecnologia da informação, Rajeev Chandrasekhar, que informou que o ministério planeja alterar as regras de TI do país até a próxima semana para estabelecer leis definitivas contra os deepfakes.

• 5 destaques de IA em 2023 e o que esperar para 2024
• McAfee revela solução de IA para combater deepfake de áudio

Em uma entrevista coletiva realizada nesta semana, o ministro enfatizou que as empresas de tecnologia vão sofrer consequências legais por parte do governo indiano se não combaterem os deepfakes com eficiência.

“Se uma plataforma pensa que pode escapar sem remover vídeos deepfake, ou simplesmente manter uma abordagem casual, temos o poder de proteger nossos cidadãos bloqueando tais plataformas”, disse Chandrasekhar.

Deepfake de Sachin Tendulkar

A declaração do ministro chega logo após o deepfake de um jogador de críquete chamar a atenção da nação indiana. No material, o batedor Sachin Tendulkar aparece em vídeo manipulado para divulgar uma plataforma de jogos de aposta online.

Na segunda-feira (15), Tendulkar publicou uma nota na rede social X (o antigo Twitter) para denunciar os vídeos e pedir ações das plataformas.

“Esses vídeos são falsos. É perturbador ver o uso indevido desenfreado da tecnologia. Solicite a todos que denunciem os vídeos, anúncios e aplicativos como esses em grande número”, escreveu o jogador.

O batedor também responsabilizou as empresas de tecnologia pela facilidade de circulação desses materiais. “As plataformas de mídia social precisam estar alertas e responder às reclamações. Uma ação rápida por parte deles é crucial para impedir a propagação de desinformação e deepfakes”, comentou Sachin Tendulkar.

Deepfakes em ano eleitoral

O combate aos deepfakes cresce na Índia não apenas pelo uso indevido da imagem de celebridades, mas também porque este é um ano de eleição no país.

A manipulação de discursos de políticos e figuras públicas pode ter um impacto na opinião pública, especialmente quando os deepfakes se tornam cada vez mais difíceis de serem reconhecidos.

Com a evolução da tecnologia, há a preocupação que as IAs possam facilitar a manipulação dos eleitores através da divulgação de imagens polêmicas e difamatórias de candidatos. Um exemplo recente aconteceu na corrida presidencial da Argentina, com a circulação de imagens geradas por IA que tentavam atingir a reputação dos concorrentes.