Usuários burlam regra no ChatGPT e criam bots de webnamoradas
Por André Lourenti Magalhães • Editado por Douglas Ciriaco |
A GPT Store existe há pouco menos de uma semana e já é possível encontrar casos que burlam as regras: a loja apresenta vários chatbots de namoradas virtuais, tema proibido pelos termos e condições da plataforma. O site Quartz localizou uma série de bots ativos com o termo “girlfriend” (“namorada”, em tradução livre), que podem ser acessados por qualquer assinante.
- ChatGPT lança plano de assinatura para pequenas e médias empresas
- OpenAI admite que modelos de IA usam materiais protegidos por lei
Ter um bot que simule um relacionamento pode parecer inofensivo, mas é uma violação das regras da plataforma. A OpenAI informa nas políticas de uso que “não permite GPTs dedicados a promover companheirismo romântico ou realizar atividades regulamentadas”.
Para contextualizar, a GPT Store é uma loja virtual com versões personalizadas do ChatGPT, criadas pela comunidade. Qualquer assinante do serviço ChatGPT Plus pode acessar o espaço e usar bots adaptados para diversos temas, como culinária, negociação e jogos de RPG.
Um dos exemplos encontrados pela Quartz inclui uma “Experiência de Namorada Digital Personalizada” e começa a conversa com perguntas como “Como sua namorada dos sonhos se parece?” e “O que faz você sentir-se valorizado?”.
Mesmo com a proibição da OpenAI, o assunto é popular: a reportagem revela que sete dos 30 bots de IA mais baixados nos EUA em 2023 são relacionados a namoradas, amigas ou companheiras criadas por inteligência artificial.
OpenAI também proíbe bots que imitem candidatos políticos
A situação dos bots de namoradas virtuais é apenas um exemplo da dificuldade para controlar o uso de IA para fins indevidos. Com a chegada de eleições em diversos países, incluindo os EUA, o descontrole pode ficar ainda mais perigoso.
Nesse caso, a OpenAI lançou uma série de novas medidas para controlar o acesso à IA generativa no período eleitoral: uma delas proíbe que as pessoas criem versões do ChatGPT que imitem personalidades políticas.
Fonte: Quartz