OpenAI paga humanos para ler suas conversas do ChatGPT; veja como desativar

Uma investigação recente revelou que a OpenAI contrata centenas de prestadores de serviços terceirizados para ler, resumir e avaliar conversas reais de usuários com o ChatGPT. Embora a empresa adote medidas para remover informações pessoais, documentos internos e prompts analisados pelo portal 404 Media mostram que conteúdos sensíveis podem chegar aos revisores humanos.

As equipes participam do processo de aprimoramento dos modelos de inteligência artificial. Entre as tarefas estão avaliar respostas do ChatGPT e identificar comportamentos considerados inadequados, como a chamada sicofancia, quando o chatbot concorda ou elogia o usuário de forma excessiva.

A investigação também mostra que o treinamento de modelos de IA envolve uma participação humana significativa. O processo não depende apenas da análise automatizada de grandes volumes de dados, já que as pessoas são contratadas para avaliar a qualidade e o comportamento das respostas geradas pelos chatbots.

Além da OpenAI, outras empresas do setor também recorrem a revisores humanos. A Anthropic afirma utilizar esse tipo de análise quando o usuário autoriza o uso das conversas para treinamento e o Google informa que os revisores podem analisar determinados chats salvos do Gemini.

A prática levanta preocupações de privacidade, especialmente porque usuários podem utilizar o ChatGPT como assistente profissional ou compartilhar informações pessoais durante as conversas.

Como impedir que humanos leiam seus chats do ChatGPT?

Os usuários de contas pessoais, como Free, Plus e Pro, têm o uso das conversas para aprimoramento dos modelos ativado por padrão. Já nas contas Enterprise, Business e Edu, essa opção fica desativada automaticamente. Para desativar o recurso:

1. Abra o ChatGPT no navegador ou aplicativo;

2. Acesse o ícone de perfil;

3. Entre em “Configurações”;

4. Toque em “Controles de dados”;

5. Desative a opção "Melhorar o modelo para todo mundo".

Com a configuração desativada, novas conversas não são usadas para melhorar os modelos. A mudança, porém, não impede que a OpenAI processe conversas para outras finalidades, como segurança e prevenção de abusos.

Também vale evitar o envio de informações sensíveis para qualquer chatbot. Mesmo com mecanismos de proteção e configurações de privacidade, o usuário não deve tratar uma conversa com inteligência artificial como um canal equivalente a uma comunicação privada com uma pessoa.

O que é o Projeto Lily do ChatGPT?

O Projeto Lily é descrito como o codinome interno de uma iniciativa da OpenAI relacionada à avaliação humana das respostas do ChatGPT. Segundo os documentos obtidos pelo 404 Media, o trabalho é realizado por profissionais contratados por empresas terceirizadas.

As atividades incluem analisar o prompt original, resumir a intenção do usuário e avaliar diferentes respostas produzidas pelo chatbot. Os revisores também recebem orientações para identificar problemas específicos no comportamento e no estilo das respostas. Entre as diretrizes citadas nos documentos estão:

• Reduzir a chamada "fala de IA": evitar emojis e estruturas de texto consideradas artificiais ou desnecessárias;

• Evitar a antropomorfização: impedir que o ChatGPT afirme ter experiências ou características humanas que não possui;

• Reduzir a sicofancia: identificar respostas que elogiam ou concordam excessivamente com o usuário, inclusive quando isso pode reforçar ideias irracionais.

Os documentos também descrevem o uso de um filtro automatizado de privacidade, criado para identificar e ocultar informações pessoalmente identificáveis antes que as conversas sejam analisadas por humanos. O sistema, porém, não é considerado infalível e pode ter dificuldades com informações ambíguas ou identificadores incomuns.

Segundo a investigação, alguns revisores também podem receber um resumo das memórias associadas ao usuário, o que pode fornecer informações adicionais sobre seu contexto, como profissão, localização geral e outros detalhes compartilhados anteriormente.

Se você gostou do conteúdo, talvez também se interesse por conferir “O que significa quando uma empresa diz que vai treinar IA com dados dos usuários”.