Reddit reforça filtro de tópicos sensíveis após IA sugerir drogas aos usuários
Por Bruno De Blasi |
O Reddit Answers, lançado recentemente no Brasil, recebeu uma atualização para reforçar o filtro de tópicos sensíveis. A melhoria ocorreu depois que o chatbot de IA recomendou o uso de drogas ilícitas ao fazer perguntas sobre remédios para dor.
Diante da situação, a empresa informou ao portal 404 Media que implementou uma atualização nesta semana para vetar esse tipo de interação na ferramenta de IA.
Após o ajuste, o recurso passou alertar que “não fornecem respostas para algumas perguntas, incluindo aquelas que são potencialmente perigosas ou que podem violar as políticas".
Em nota ao portal, os responsáveis pela rede social informaram que testam a exibição do Answers na página de conversa para gerar mais adoção e engajamento e a integração da pesquisa para otimizar a experiência de busca.
Reddit Answers sugere drogas aos usuários
O caso foi revelado na comunidade de suporte a moderadores por uma pessoa que se identificou como um profissional da área de saúde que vive nos Estados Unidos.
Na thread, o usuário informou que, ao fazer um comentário em uma comunidade sobre medicina da família, o Answers recomendou a interromper o uso de medicamentos prescritos e a tomar altas doses de kratom, uma substância ilegal em diversos locais.
Na sequência, novas perguntas foram feitas à IA para testá-la – dessa vez, sobre febre neonatal, uma emergência médica.
“Recebi uma mistura de links para postagens que diziam para ir ao pronto-socorro imediatamente (ação correta) ou para experimentar cúrcuma, batatas ou um banho quente e úmido”, diz o relato. “Se o seu recém-nascido tem febre devido à meningite, cada minuto conta. Não há tempo para tentar remédios caseiros.”
Ao questioná-la sobre indicações médicas para heroína, outra substância com restrições, a ferramenta alertou sobre o vício em um momento. No outro, mostrou uma publicação de uma pessoa que conseguiu controlar a dor crônica com a droga.
O caso também foi replicado pelo 404 Media, que teve resultantes semelhantes em seus testes. Porém, depois que o portal entrou em contato com o Reddit, a ferramenta parou de recomendar as substâncias.
Reddit Answers chega ao Brasil
O Reddit Answers desembarcou no Brasil nesta quinta-feira (17). Com a novidade, os usuários podem utilizar a IA da rede social para tirar dúvidas, com interação totalmente em português.
Em nota ao Canaltech, a companhia explicou que a ferramenta está disponível na versão web e nos apps para Android e iOS. As respostas, por sua vez, são baseadas em conteúdos da rede social.
Confira outras matérias do Canaltech:
- Reddit mira no Brasil para crescer fora dos EUA, diz site
- Reddit processa Anthropic por usar posts para treinar IA sem pagar
- Reddit vai reforçar verificação para combater bots movidos por IA
VÍDEO: Pesquisar no Google Deixou de Fazer Sentido?