Copilot começa a bloquear termos sexuais na criação de imagens
Por Ricardo Syozi • Editado por Douglas Ciriaco |
Parece que a Microsoft quer enfrentar com tudo o uso indevido da sua IA para criar imagens, o Copilot Designer, e começou a bloquear termos que poderiam gerar imagens de cunho sexual ou com violência. A informação foi confirmada pelo Canaltech junto à desenvolvedora.
- O que é Copilot? Como funciona a IA da Microsoft
- 7 coisas que o Copilot do Bing faz melhor que o ChatGPT
Esse bloqueio veio após engenheiro da MS escrever para a Federal Trade Commission (FTC), órgão que regulamenta o mercado nos Estados Unidos, e para o quadro de diretores da MS sobre preocupações ligadas ao uso do bot para criação de conteúdo impróprio.
IA avisa do bloqueio
Ao tentar usar palavras de cunho erótico ou violento para criar uma imagem na IA, o usuário recebe a seguinte mensagem do robô: “Este prompt foi bloqueado. Nosso sistema sinalizou automaticamente essa solicitação porque ela pode entrar em conflito com nossa política de conteúdo. Mais violações da política podem levar à suspensão automática do seu acesso. Se você acha que isso é um erro, denuncie para nos ajudar a melhorar”.
Ao Canaltech, a Microsoft disse estar "monitorando continuamente, fazendo ajustes e implementando controles adicionais para fortalecer ainda mais os filtros de segurança e mitigar o uso indevido do sistema".
Vale lembrar que, em janeiro, a empresa de Redmond enfrentou problemas com deepfakes pornográficos da cantora Taylor Swift que representavam a artista estadunidense nua a partir de montagens feitas no Microsoft Designer.
Crime com deepfake de mulheres pode ter maior pena
Além de as empresas realizarem o bloqueio de termos que podem gerar imagens maliciosas, a Justiça também quer fazer sua parte. No Brasil, o Congresso aprovou um projeto de lei que visa aumentar a pena para crimes que utilizam IA contra mulheres — se a medida for aprovada, a seção B do artigo 147 do Código Penal ganharia um novo parágrafo, que ampliaria o tempo de pena pela metade nos casos em que o crime fosse cometido com o apoio de uma inteligência artificial.