Publicidade

IA que cria figurinhas da Meta gera imagens obscenas e viraliza

Por  • Editado por Douglas Ciriaco | 

Compartilhe:
Divulgação/Meta
Divulgação/Meta

A Meta liberou o acesso ao gerador de figurinhas por IA generativa em alguns países selecionados: o recurso permite criar stickers rapidamente por comandos de texto no Facebook e no WhatsApp. No entanto, com poucos dias de uso, a comunidade descobriu que a ferramenta não tem alguns filtros para limitação de conteúdo.

Publicações viralizaram no X (antigo Twitter) com alguns resultados obscenos e apologia à violência. Os exemplos incluem personagens da franquia Mario e crianças segurando armas de fogo, nudes do primeiro-ministro do Canadá Justin Trudeau e imagens do Mickey Mouse sentado num vaso sanitário.

É importante reforçar que algumas das imagens a seguir são impróprias para visualização no ambiente trabalho.

Canaltech
O Canaltech está no WhatsApp!Entre no canal e acompanhe notícias e dicas de tecnologia
Continua após a publicidade

Não demorou muito para que outras pessoas testassem ver até onde vai a moderação de conteúdo da ferramenta. Um usuário no X descobriu que os apps bloqueiam prompts de órgãos genitais, mas existem formas de burlar o sistema, que ainda gera artes vulgares quando o texto possui um erro de digitação ou descreve o conteúdo proibido sem citar o nome em si.

Meta ainda não se pronunciou

A Meta ainda não emitiu nenhum comunicado oficial sobre a situação. Como a função entrou em fase de testes recentemente, é provável que a empresa atualize o serviço com mais filtros de conteúdo.

Não é o primeiro caso

Continua após a publicidade

As ferramentas de IA generativa costumam passar por um cenário parecido: usuários tentam gerar conteúdo obsceno ou pornográfico até o bloqueio total desses pedidos. Foi o que já aconteceu com a versão gratuita do gerador de imagens Midjourney e o chatbot Replika.