União Europeia força Big Techs a rotularem conteúdo feito por IA

A União Europeia começou a aplicar novas regras de transparência para conteúdos criados ou modificados por inteligência artificial (IA). O Artigo 50 do AI Act, que entrou em vigor em 2 de agosto, determina que empresas identifiquem imagens, vídeos e áudios gerados por IA quando eles puderem ser confundidos com conteúdos reais.

A regra também abrange determinados textos produzidos ou manipulados por IA sobre assuntos de interesse público, caso não tenham passado por revisão humana ou controle editorial. A medida coloca a UE entre as regiões com regras mais rígidas para identificar conteúdos sintéticos.

O descumprimento pode resultar em multas de até 15 milhões de euros ou 3% do faturamento anual mundial da empresa. Como grandes laboratórios de IA operam em diversos mercados e o custo é alto para manter modelos ou versões de produtos diferentes para cada região, as exigências europeias também podem influenciar a forma como essas tecnologias são usadas fora do bloco.

Como funciona a regra da UE sobre marca d'água em conteúdo de IA?

A legislação não determina uma tecnologia específica para fazer a identificação. Em vez disso, ela exige que a origem sintética do conteúdo possa ser reconhecida. Assim, empresas de IA podem recorrer a diferentes métodos. 

Uma das opções são as marcas d'água invisíveis, inseridas em imagens, vídeos ou áudios. O SynthID, do Google, é um exemplo dessa tecnologia. Como o sinal fica incorporado ao próprio conteúdo, ele pode continuar presente depois de algumas alterações, como cortes ou compressão. 

Outra possibilidade é usar metadados, que registram informações sobre a origem do arquivo. O método é semelhante aos dados EXIF encontrados em fotografias digitais, mas tem uma desvantagem: essas informações podem desaparecer quando o arquivo é editado, convertido ou publicado em determinadas plataformas. 

A UE também estabelece formas visuais de identificação para conteúdos gerados ou modificados por IA. Os rótulos devem aparecer de maneira clara quando o usuário entra em contato com o material. Já em conteúdos artísticos, criativos, satíricos ou de ficção, a exigência é adaptada: o aviso sobre o uso de IA precisa informar o público, mas sem prejudicar a apresentação ou a fruição da obra.

Quais são os principais rótulos?

As diretrizes diferenciam conteúdos totalmente gerados por IA daqueles que foram apenas modificados. Entre os exemplos estão:

• AI: indica que houve participação de IA na criação ou alteração do conteúdo, como em um deepfake com voz ou imagem artificial;

• AI GENERATED: usado quando o conteúdo foi produzido integralmente por IA, como um vídeo fictício de um político ou uma música criada por IA;

• AI MODIFIED: identifica conteúdos originalmente feitos por humanos que foram modificados por IA, como uma troca de rosto em uma foto real.

Por que a UE está exigindo marca d’água nos conteúdos de IA?

A principal preocupação é reduzir o impacto de desinformação, golpes e deepfakes. Com modelos de IA cada vez mais capazes de produzir imagens, vozes e vídeos convincentes, fica difícil para uma pessoa identificar sozinha se determinado material é autêntico.

A identificação também busca facilitar a rastreabilidade do conteúdo. Em vez de depender apenas da percepção do usuário, plataformas e ferramentas podem usar sinais incorporados ao arquivo ou informações de procedência para verificar se houve participação de IA.

Rotulagem não resolve todos os problemas

Ainda assim, a rotulagem não resolve todos os problemas, pois marcas d'água podem ser prejudicadas por alterações no arquivo, capturas de tela, recodificação ou processamento por outros modelos de IA.

Também não existe um padrão universal compartilhado entre as empresas de tecnologia. Um sinal de procedência inserido pela ferramenta de uma empresa pode não ser reconhecido pelo sistema de detecção de outra companhia ou por determinada rede social, o que limita a eficácia da rastreabilidade. 

Esse cenário é conhecido como problema da assimetria: as regras de rotulagem funcionam bem para identificar e catalogar conteúdos sintéticos criados por usuários comuns em plataformas, como OpenAI, Google e Anthropic. Porém, têm eficácia limitada contra campanhas intencionais de desinformação, nas quais os responsáveis podem usar sistemas modificados ou remover as marcações de IA. 

Outro risco é o chamado efeito bumerangue. Se os usuários começarem a confiar demais nos rótulos, podem interpretar qualquer conteúdo sem identificação como verdadeiro. Isso criaria uma falsa sensação de segurança justamente nos materiais produzidos por quem não segue as regras.

Por isso, a identificação deve funcionar como uma camada adicional de proteção, e não como uma garantia de autenticidade. A capacidade de avaliar a fonte, o contexto e possíveis inconsistências continua importante mesmo com a adoção das novas regras.

Se você gostou do conteúdo, talvez também se interesse por conferir “É VERDADE que as imagens geradas por IA têm marca d’água oculta que você não vê”.