OpenAI vai usar tecnologia do ChatGPT para moderar conteúdo
Por Guilherme Haas • Editado por Douglas Ciriaco |
A OpenAI apresentou um novo sistema de moderação de conteúdo que usa o GPT-4 (a mesma tecnologia do ChatGPT) para interpretar regras e se adaptar conforme as mudanças de políticas de cada plataforma. De acordo com a companhia, a IA pode reduzir o tempo de aplicação de novas diretrizes e alivar o stress de moderadores humanos.
- Chefe de moderação de conteúdo do Twitter pede demissão
- ChatGPT erra mais de 50% das respostas em estudo de universidade dos EUA
A moderação de conteúdo é um dos pontos sensíveis no que se refere ao tráfego online em redes sociais e também aos resultados produzidos por ferramentas de IA generativa.
Tarefa ingrata de moderar materiais
A tarefa de analisar o grande volume de dados compartilhados nas plataformas era tradicionalmente atribuída a uma equipe de humanos, responsáveis por filtrar materiais nocivos, tóxicos e ilegais. Essa atividade ficou conhecida por gerar transtornos em funcionários devido à exposição a conteúdos traumatizantes.
As empresas de tecnologia começaram a aplicar modelos de aprendizado de máquina para rotular esses materiais e ajudar os moderadores humanos. Os resultados se mostraram inconsistentes e, por vezes, enviesados.
Modelo escalável e adaptativo
Segundo a OpenAI, a solução do seu modelo traz mais rapidez na adaptação às políticas de cada empresa. O sistema é capaz de interpretar exemplos de rótulos criados a partir de uma diretriz e escalar essas regras para todo um conjunto de dados.
Além disso, o modelo pode ser atualizado e ajustado para corrigir discrepâncias e confusões quanto às políticas fornecidas. Dessa forma, o moderador humano pode focar na aplicação e adaptabilidade da IA nessa função.
A empresa informa ainda que analisa o desempenho da ferramenta em relação a moderadores humanos pouco ou muito experimentes nesse trabalho. A IA não superou os resultados dos humanos bem treinados, mas teve uma pontuação equiparada aos de humanos com pouco treinamento.
De acordo com o anúncio feito pela companhia, qualquer um com acesso à API da OpenAI pode implementar essa solução e criar seu sistema de moderação com assistência da IA.
Veja também a análise que indica que a OpenAI pode falir em 2024 graças ao ChatGPT.