Copilot começa a bloquear termos sexuais na criação de imagens
Por Ricardo Syozi • Editado por Douglas Ciriaco |
![Divulgação/Microsoft](https://t.ctcdn.com.br/QK3gfwcN0ikzFnj-Dnxtokyc77Q=/640x360/smart/i832063.png)
Parece que a Microsoft quer enfrentar com tudo o uso indevido da sua IA para criar imagens, o Copilot Designer, e começou a bloquear termos que poderiam gerar imagens de cunho sexual ou com violência. A informação foi confirmada pelo Canaltech junto à desenvolvedora.
- O que é Copilot? Como funciona a IA da Microsoft
- 7 coisas que o Copilot do Bing faz melhor que o ChatGPT
Esse bloqueio veio após engenheiro da MS escrever para a Federal Trade Commission (FTC), órgão que regulamenta o mercado nos Estados Unidos, e para o quadro de diretores da MS sobre preocupações ligadas ao uso do bot para criação de conteúdo impróprio.
IA avisa do bloqueio
![Canaltech](/logo-canaltech.png)
Ao tentar usar palavras de cunho erótico ou violento para criar uma imagem na IA, o usuário recebe a seguinte mensagem do robô: “Este prompt foi bloqueado. Nosso sistema sinalizou automaticamente essa solicitação porque ela pode entrar em conflito com nossa política de conteúdo. Mais violações da política podem levar à suspensão automática do seu acesso. Se você acha que isso é um erro, denuncie para nos ajudar a melhorar”.
Ao Canaltech, a Microsoft disse estar "monitorando continuamente, fazendo ajustes e implementando controles adicionais para fortalecer ainda mais os filtros de segurança e mitigar o uso indevido do sistema".
Vale lembrar que, em janeiro, a empresa de Redmond enfrentou problemas com deepfakes pornográficos da cantora Taylor Swift que representavam a artista estadunidense nua a partir de montagens feitas no Microsoft Designer.
Crime com deepfake de mulheres pode ter maior pena
Além de as empresas realizarem o bloqueio de termos que podem gerar imagens maliciosas, a Justiça também quer fazer sua parte. No Brasil, o Congresso aprovou um projeto de lei que visa aumentar a pena para crimes que utilizam IA contra mulheres — se a medida for aprovada, a seção B do artigo 147 do Código Penal ganharia um novo parágrafo, que ampliaria o tempo de pena pela metade nos casos em que o crime fosse cometido com o apoio de uma inteligência artificial.