Empresas sugerem identificar conteúdos feitos por IA com marca d'água

O presidente dos Estados Unidos Joe Biden se reuniu, nesta sexta-feira (21), na Casa Branca, com representantes de sete empresas de tecnologia do país para debater mecanismos que regulem os avanços tecnológicos em inteligência artificial e aumentem a privacidade dos usuários.

• ChatGPT | Como identificar textos produzidos por inteligência artificial?
• Por que o ChatGPT é perigoso e preocupa tanto?

Os executivos recebidos na Casa Branca representam as companhias Alphabet (dona do Google), Microsoft, OpenAI, Meta, Amazon, Anthropic e Inflection — e todas se comprometeram voluntariamente a tomar medidas e compartilhar informações sobre como mitigar riscos e investir em segurança.

Marca d’água e regulação das IAs

A conversa com as empresas de tecnologia acontece em um momento de alta popularidade e disseminação das IAs generativas, enquanto o governo de Joe Biden prepara uma ordem executiva e regulação legislativa para as tecnologias de inteligência artificial.

Entre as medidas acordadas com as sete gigantes está o desenvolvimento de um “sistema de marca d’água” que sinalize todos os conteúdos gerados por IA — incluindo vídeos, fotos, imagens, textos e áudios — de tal forma que as pessoas possam saber quando a tecnologia foi utilizada na criação das peças.

Essa preocupação do governo estadunidense com conteúdos gerados por IA acompanha os casos de imagens de figuras públicas criadas ou alteradas pela tecnologia. Exemplos disso foram a foto do Papa Francisco com casaco estiloso e imagens de Donald Trump sendo preso.

Um sistema de marca d’água poderia evitar a propagação dos chamados deepfakes de pessoais reais, especialmente quando esses são usados para prejudicar a imagem de alguém.

Apesar da sinalização positiva das empresas de tecnologia, não foi definido qualquer modelo de sistema de marca d’água para identificar os conteúdos gerados por IA.

Outro ponto de discussão junto ao presidente dos Estados Unidos foi em relação à privacidade dos usuários. As companhias concordaram em garantir que as tecnologias de inteligência artificial sejam livres de preconceitos e discriminação.

Nos últimos meses, surgiram diversos relatos sobre respostas equivocadas, preconceituosas e até perigosas dos modelos de linguagem de larga escala — as invenções das IAs começaram até a ser chamadas de “alucinações”.

As empresas também se comprometeram a desenvolver soluções de IA para problemas como as mudanças climáticas e a pesquisa médica.