Instagram marca fotos como feitas por IA indevidamente e gera polêmica

O Instagram adicionou recentemente uma marcação para sinalizar que um conteúdo foi criado com IA, mas o recurso já foi alvo de polêmica: muitos usuários reclamam que a rede social adiciona a marca d’água indevidamente em publicações que não passaram por uma ferramenta de IA generativa. 

• Instagram vai facilitar acesso a recursos experimentais, diz vazador
• Notas do Instagram agora podem ser lidas e criadas pelo computador

Entenda o caso

A marcação “Criado por IA” é uma alternativa da Meta para identificar fotos e vídeos geradas por inteligência artificial nas redes sociais e chegou ao Instagram nas últimas semanas. O próprio usuário pode adicionar o rótulo antes da publicação, mas a rede também detecta a imagem e pode inserir a marca automaticamente.

Um dos primeiros casos de uso indevido ocorreu com o fotógrafo australiano Peter Yan, que publicou uma foto de uma montanha nos Stories e recebeu o aviso de conteúdo criado por IA. O profissional reclamou sobre o ocorrido no Threads, publicou a foto original ao lado e disse que apenas usou o Adobe Photoshop para mudar alguns espaços.

O incidente chamou a atenção do chefe do Instagram, Adam Mosseri, que entrou em contato com o profissional para perguntar se a marca apareceu automaticamente. A Meta ainda não explica por que isso acontece, mas uma hipótese é de que o próprio Photoshop possa informar o uso de IA nos metadados da imagem e o mecanismo do Instagram poderia considerar a informação, por mais simples que seja a edição.

O problema é que isso parece afetar imagens que passam por softwares de edição. O usuário LASLOW01, no Reddit, disse que uma imagem 3D criada no Blender recebeu a marcação de IA na rede social e confirmou que não usou nenhuma ferramenta de IA generativa no processo. Por enquanto, ainda não existe uma forma de recorrer à decisão do Instagram.

Marca foi usada em foto da Tesla

Outro episódio ocorreu numa publicação da montadora Tesla, ao publicar fotos de divulgação da pintura Lunar Silver para os carros da empresa. O carrossel recebeu o rótulo de uso de IA e rendeu uma provocação da montadora nos comentários: “o prata é tão brilhante que o Instagram marca fotos reais como IA”, comentou a marca.

O que diz o Instagram

Consultado pelo Canaltech, o Instagram não se manifestou a respeito do tema. A página de suporte do Instagram estabelece algumas regras sobre a marcação e diz que aplica o método “quando for detectado que um conteúdo tem sinais padrão do setor indicando que foi gerado por IA”, e inclui materiais “criados ou editados em ferramentas de IA de terceiros”.

A empresa ainda reforça alguns exemplos de conteúdos que precisam do rótulo, como um vídeo de pessoas com aspecto realista, uma música com vocais gerados por IA ou uma narração criada por inteligência artificial. Vídeos com poucos cortes na edição não necessariamente exigem a marcação.

Porém, este trecho abre algumas brechas para interpretação: 

“A Meta exige que você rotule o conteúdo que compartilhar, incluindo vídeos fotorrealistas ou áudios de sons realistas que tenham sido gerados ou alterados digitalmente, inclusive com o uso de IA. Isso significa que se esse tipo de conteúdo foi criado ou modificado com uma criação digital ou ferramenta de IA, você deve rotulá-lo antes de compartilhá-lo”.

É possível interpretar que a Meta exige o rótulo para qualquer edição digital sobre um material existente, o que explicaria as marcações em fotos editadas ou objetos 3D. Por outro lado, isso pode limitar o trabalho de profissionais de design e fotógrafos que precisam dos softwares de edição, já que muitas dessas ferramentas possuem recursos que usam IA para ajustes rápidos, mas não modificam a estrutura da imagem. 

Você também pode conferir algumas dicas para identificar se uma imagem foi gerada por inteligência artificial.