Bug fez ChatGPT gerar conversas impróprias com menores de idade, diz OpenAI
Por André Lourenti Magalhães |
A OpenAI afirmou que um bug no ChatGPT fez a IA gerar conversas de teor erótico com contas de menores de idade e trabalha em correções para o problema. A falha foi identificada pelo site internacional TechCrunch, que entrou em contato com a empresa.
A reportagem original fez uma série de testes usando contas falsas de menores de idade para identificar se o chatbot responderia prompts com conteúdo explícito. Em algumas das ocasiões, a IA não só respondeu como encorajou o usuário a enviar mais comandos do tipo.
O teste foi justificado como uma forma de avaliar as restrições mais “leves” do ChatGPT para alguns temas sensíveis. No começo do ano, a empresa divulgou que os modelos de IA usados pelo chatbot iriam discutir assuntos sensíveis e algumas mensagens de aviso sobre prompts seriam removidas.
A OpenAI afirmou que trabalha ativamente para corrigir o problema que permitiu as conversas e pretende limitar a exposição dos temas impróprios.
Quais são as regras do ChatGPT para menores de idade?
A página de suporte do chatbot informa que a ferramenta pode ser usada por jovens com pelo menos 13 anos de idade, mas contas de pessoas de 13 a 18 anos precisam do consentimento dos pais.
A desenvolvedora afirma que adota medidas para limitar a produção de conteúdo impróprio, mas o “ChatGPT pode produzir resultados inadequados para todos os públicos ou todas as idades”, então deixa um aviso para educadores que pretendem usar o assistente com alunos.
Leia também:
- Como saber se o ChatGPT está fora do ar
- OpenAI explica como seus modelos de IA são criados durante o Web Summit Rio
- GPT-4.1, o3 e o4-mini: conheça os novos modelos de IA da OpenAI
VÍDEO: ChatGPT, Perplexity, Claude, Gemini: QUAL escolher?