YouTube vai avisar quando vídeo tiver conteúdo gerado por IA

O YouTube atualizou as suas diretrizes de comunidade para evitar que vídeos gerados ou modificados por inteligência artificial enganem o público. A novidade inclui uma opção para criadores sinalizarem quando seus vídeos tiverem conteúdo criado ou gerado por IA e também a exibição de selos na tela para informar os espectadores a respeito disso.

• 10 IAs para criar vídeo a partir de fotos ou texto
• IA do YouTube vai sugerir conteúdo, músicas e até dublar vídeos para criadores

Na publicação feita neta terça-feira (14) em seu blog oficial, a plataforma de vídeos do Google destaca que já impõe políticas que proíbem vídeos com conteúdos manipulados para enganar espectadores, mas que as IAs representam um novo risco nesse sentido, daí a necessidade de novas abordagens.

“Para resolver esta preocupação, ao longo dos próximos meses, introduziremos atualizações que informam aos espectadores quando o conteúdo assistido por eles é sintético”, explica o YouTube. “Especificamente, exigiremos que criadores divulguem quando geraram conteúdo alterado ou sintético realista, inclusive com o uso de ferramentas de IA”, prossegue.

Selos para identificar IA no YouTube

Para alertar os usuários do YouTube, a plataforma do Google vai usar selos com a frase “Altered or synthetic content” (“Conteúdo sintético ou alterado”, em tradução livre).

Esses selos serão exibidos de duas maneiras: uma etiqueta na descrição do vídeo ou em cima do próprio vídeo em caso de publicações sobre tópicos sensíveis.

Contudo, o YouTube alerta que a existência desses selos identificado material gerado ou alterado por IA não é um passe livre para que qualquer tipo de vídeo seja veiculado por ali. A empresa garante que as diretrizes de comunidade ainda seguem valendo e conteúdos que violem as regras serão removidos.

“Por exemplo, um vídeo criado sinteticamente que mostra violência realista ainda pode ser removido se o seu objetivo for chocar ou enojar os espectadores”, explica o site.

Além disso, dado que a obrigação de identificar um vídeo com IA é do criador, é presumível que a violação desta regra também acarreta em prejuízo ao canal.

Vale lembrar que o YouTube desenvolve recursos de inteligência artificial para criadores de conteúdo e até para resumir comentários, porém não fica claro se alguma tecnologia do tipo vai identificar materiais não sinalizados como deveriam ou se isso ficará a cargo das denúncias feitas por quem assiste ao vídeo.

Mais regras novas para IA

As novas regras do YouTube para IA incluem ainda a possibilidade de que pessoas representadas sem autorização em vídeos criados artificialmente solicitem a remoção do conteúdo (imagem que alguém fez um vídeo com sua imagem gerada por IA sem autorização, é para conter isso que essa nova regra serve).

Artistas musicais também poderão solicitar a remoção de conteúdos musicais que “imitem” o seu jeito de cantar.

O YouTube garante que a solicitação de remoção não será atendida em todos os casos, mas que a empresa vai considerar “uma variedade de fatores” para tomar uma decisão. Tais fatores incluem se o vídeo é uma paródia ou sátira, no caso das imagens, e discussões com gravadoras e distribuidoras no caso das canções.

O site de vídeos do Google não estima datas, mas diz que todas essas novidades começam a valer “nos próximos meses”.