IA "sincera demais" cria polêmica ao opinar sobre selfies de usuários

Uma nova ferramenta de inteligência artificial (IA) chamada Clip Interrogator está causando um certo desconforto na internet. O aplicativo é descrito como um programa online que dá dicas para melhorar a qualidade e aperfeiçoar as selfies tiradas pelos usuários.

• Mubert AI usa inteligência artificial para criar músicas sem direitos autorais
• Instagram vai verificar idade com selfies e inteligência artificial no Brasil

Na prática, seria como ter um amigo que olhasse a foto e desse algumas opiniões sobre enquadramento, penteado, maquiagem e assim por diante. No entanto, o Twitter está cheio de relatos de pessoas descontentes com o excesso de “sinceridade” do Clip Interrogator.

Uma usuária comentou que o app disse que ela parecia “bêbada e cansada”. Outro internauta postou que a ferramenta o definiu como uma pessoa de “rosto deformado”. E teve ainda um professor dizendo que o Clip Interrogator afirmou que ele parecia um fantoche e tinha uma cara “boa para socar”.

IA super sincera

O Clip Interrogator foi criado por um artista generativo — que usa programas de inteligência artificial para produzir suas obras — chamado Pharmapsychotic. Segundo seu inventor, o app utiliza várias imagens carregadas pelo usuário para sugerir o que pode ser melhorado na próxima foto.

A ferramenta foi construída sobre a plataforma de rede neural Contrastive Language-Image Pre-Training (CLIP), lançada pela OpenAI em 2021 como um sistema que utiliza inteligência artificial e linguagem computacional para fornecer descrições exatas sobre determinada imagem.

O próprio Pharmapsychotic não revela como o Clip Interrogator trata as informações visuais, transformando-as em sugestões no mínimo “deselegantes” sobre os rostos de seus usuários. O artista disse apenas que a ferramenta pode apresentar algumas distorções como todo sistema de IA.

Na prática

Não ficou claro se o criador está tentando passar uma visão de como um sistema de inteligência artificial enxerga a humanidade, ou se ele apenas se aproveitou de uma plataforma já pronta para treinar o Clip Interrogator até que ele se tornasse uma ferramenta sem filtros sociais.

Nós testamos o quanto o aplicativo pode ser sincero até demais com algumas imagens em estoque. Na primeira foto, o Clip Interrogator descreveu a imagem como a de um homem de 30 e poucos anos, com rosto meio alegre e com várias rugas visíveis na testa.

Já na segunda fotografia, o app foi um pouco mais ácido, dizendo se tratar de um velho sentado num banco com flores ao fundo, vestindo um macacão sujo, com uma expressão devastada, sarcástico e parecido com o comediante estadunidense Groucho Marx. Será que todo mundo está preparado para esse nível de “sinceridade”?