YouTube permite denunciar vídeos com deepfakes da sua própria imagem

O YouTube mudou a política de privacidade da plataforma e incluiu uma nova opção para denunciar vídeos que usam IA para simular a voz ou a imagem de uma pessoa. Dessa forma, se você foi vítima de um deepfake, pode usar a ferramenta para pedir para tirar o vídeo do ar a partir de uma denúncia de violação de privacidade.

• Clique e siga o Canaltech no WhatsApp
• IA para criar vídeos Google Vids começa a ser liberada ao público
• YouTube vai deixar colocar capa em playlists, diz site

Antes da mudança, a plataforma só permitia denunciar vídeos do tipo com base no conteúdo usado — uma publicação que promovia desinformação poderia ser tirada do ar, por exemplo, mas o deepfake poderia ser mantido se o conteúdo não violasse as diretrizes da comunidade. Agora, qualquer uso de IA pode ser contestado a partir das políticas de privacidade e o post original pode ser removido.  

Como funciona a denúncia

O YouTube informa que apenas a própria pessoa afetada pelo vídeo pode denunciá-lo, com exceção a casos que envolvam menores de idade, pessoas falecidas e indivíduos vulneráveis ou sem acesso a um computador ou celular. Após o envio da reclamação, a plataforma analisa o caso e remove o conteúdo apenas se “retratar uma versão realista alterada ou sintética de você”.

O suporte considera vários fatores presentes no material, como a possibilidade de retratar uma paródia, se revela alguma atividade sensível ou se a pessoa pode ser claramente identificada.

A conta que publicou o conteúdo é notificada e tem até 48 horas para editar as informações sensíveis ou tirar o vídeo do ar. Durante o processo, o YouTube diz que não exibe o nome de contato do denunciante com a pessoa proprietária da publicação original.

Mecanismos do YouTube para uso de IA

A novidade traz mais um mecanismo de segurança para combater o mau uso de IA na plataforma e preenche uma lacuna que existia no YouTube nesses casos: muitas vezes, um vídeo poderia usar uma representação artificial de uma pessoa sem violar as diretrizes da comunidade, então a publicação ainda poderia continuar no ar. 

O recurso permite reportar um vídeo com base nas políticas de privacidade da plataforma, então o conteúdo pode sair do ar mesmo sem quebrar alguma regra das diretrizes da comunidade. 

Aos poucos, o YouTube cria novas estratégias para conter a presença de deepfakes e outros materiais sintéticos com a ajuda de IA — no começo do ano, a empresa lançou uma ferramenta para sinalizar o uso de inteligência artificial generativa em conteúdos realistas.