Anthropic mostra como Claude insere marca d'água "invisível" em textos feitos por IA

A Anthropic revelou detalhes de como funciona o sistema de marca d’água invisível aplicado aos textos gerados pelo Claude. A tecnologia cria um padrão estatístico nas respostas para identificar conteúdos produzidos pela IA, sem inserir caracteres ocultos ou elementos perceptíveis para quem lê.

A medida está relacionada ao compromisso de aumentar a transparência sobre conteúdos gerados por inteligência artificial e também atende às exigências do AI Act, a Lei de Inteligência Artificial da União Europeia. Segundo a Anthropic, o sistema será aplicado globalmente no lançamento de futuros modelos e está sendo implementado de forma gradual nos modelos antigos nos próximos meses.

De acordo com a empresa, a tecnologia não causa impacto na qualidade, criatividade ou legibilidade das respostas. Além disso, o mecanismo não exige tokens extras, não aumenta o custo de geração e não inclui informações que permitam identificar o usuário, a conversa ou a organização.

A marca d’água também não altera a propriedade legal do conteúdo nem a responsabilidade do usuário pelo material gerado. O objetivo é indicar a procedência do texto, e não restringir seu uso.

Como funciona a marca d’água do Claude?

A marca d’água é inserida durante a própria geração da resposta. Quando o Claude precisa escolher qual será a próxima palavra, o sistema pode direcionar a seleção entre termos que têm significado semelhante.

Em uma frase na qual “nublado” e “cinzento”, por exemplo, funcionam igualmente bem, o mecanismo usa uma chave específica para influenciar discretamente a escolha. A sequência de palavras formada pelo modelo cria, então, um padrão estatístico que pode ser identificado posteriormente.

A tecnologia é baseada no SynthID-Text, sistema desenvolvido pelo Google DeepMind. A Anthropic também pretende lançar uma API de detecção para que empresas e usuários possam verificar a probabilidade de determinado texto ter sido produzido pelo Claude.

No entanto, o sistema tem algumas limitações. A detecção funciona melhor em textos longos, já que há mais oportunidades para o modelo fazer escolhas entre palavras e construir o padrão estatístico. 

Em textos curtos, códigos de programação e conteúdos puramente factuais, a aplicação da marca d’água pode ser reduzida ou não acontecer. Isso evita que o mecanismo altere respostas nas quais existe pouca margem para escolher palavras diferentes sem comprometer a precisão. 

Além disso, se um usuário pedir para a IA apenas revisar ou corrigir a gramática e a pontuação de um texto escrito por um humano, a marca d'água quase não será aplicada. Ela existirá apenas nas pequenas correções feitas pela IA, o que geralmente é insuficiente para que o sistema de detecção consiga identificá-la. Já qualquer tradução gerada pelo Claude receberá a marca d'água completa, considerando que a IA precisa escolher cada uma das palavras do texto final.

A tecnologia também não é impossível de contornar. Pequenas edições podem manter o padrão detectável, mas uma reescrita completa do conteúdo pode remover a marca d’água.

Se você gostou do conteúdo, talvez também se interesse por conferir “Claude grátis vale a pena? Veja o que dá e o que não dá para fazer”.