Google lança tecnologia que identifica comentários maliciosos em notícias

Por Redação | 23.02.2017 às 12:16
photo_camera Divulgação

As subsidiárias da Alphabet, Google e Jigsaw (antiga Google Ideias), lançaram nesta quinta-feira (23) uma nova tecnologia que vai ajudar editores de notícias e plataformas online a identificar comentários abusivos em seus sites.

A premissa da ferramenta, chamada Perspective, é comparar os comentários publicados nas notícias com o conteúdo de outras mensagens que já foram consideradas "tóxicas" ou abusivas. Alguns grandes veículos de comunicação, como o The New York Times, já testaram a novidade.

A tecnologia analisou centenas de milhares de comentários que haviam sido rotulados como ofensivos por revisores humanos para aprender a detectar linguagem potencialmente abusiva. Futuramente, a ferramenta também poderá ser expandida para tentar identificar ataques pessoais ou comentários fora do tópico.

Jared Cohen, presidente da Jigsaw, explica que a ideia é impulsionar discussões saudáveis em vez de ofensas gratuitas. "As organizações de notícias querem encorajar o envolvimento e a discussão em torno do seu conteúdo, mas descobrem que classificar milhões de comentários para encontrar aqueles que são trolls ou abusivos requer muito dinheiro, trabalho e tempo", disse Cohen.

O resultado dessa invasão de mensagens tóxicas nas notícias é que muitos veículos estão desabilitando a opção de comentários. "Mas eles nos dizem que não é a solução que eles querem. Nós achamos que a tecnologia pode ajudar", completa o executivo.

A ferramenta não decidirá o que fazer com comentários que considerar potencialmente abusivos; em vez disso, editores serão capazes de sinalizá-los para os seus moderadores ou desenvolver ferramentas para ajudar os usuários a entender o impacto do que eles estão escrevendo.

A Perspective ainda está em fase inicial de testes e "longe de ser perfeita", conforme explica Cohen. Por enquanto, a tecnologia só funciona em inglês, mas as empresas envolvidas desejam expandir a ferramenta pra outros idiomas.

Fonte: Reuters