Inteligência artificial do Yahoo ajuda a moderar comentários abusivos

Por Redação | 04.08.2016 às 14:00

O combate contra o abuso no Yahoo, agora, conta com uma ajuda automatizada. A empresa revelou que está utilizando um algoritmo de inteligência artificial para acabar com comentários que contenham discursos de ódio, racismo, abuso ou qualquer outro tipo de texto ofensivo publicado em seus sites de notícias e finanças.

Segundo a empresa, a inteligência artificial tem uma eficácia de 90% na detecção desse tipo de conteúdo, e isso se deve à forma diferente pela qual ele trabalha. Ao criar o sistema, o serviço substituiu os simples e facilmente contornáveis filtros de palavras por uma tecnologia de aprendizagem, com a máquina entendendo cada vez mais sobre o comportamento dos visitantes e melhorando sua detecção a cada dia.

Além de termos ofensivos em si, o computador leva em conta a extensão dos comentários, o uso de letras maiúsculas ou a quantidade de pontuação. Palavras de ordem como “poderia” ou “deveria” também recebem atenção especial do sistema, bem como emoticons que podem aparecer em mensagens irônicas ou sarcásticas.

A ajuda humana também é essencial aqui, não apenas validando os textos que são tirados do ar pelo sistema automatizado, como também analisando aqueles que ele deixa passar. Antes mesmo de entrar em funcionamento, ainda, a inteligência artificial contou com o auxílio de pessoas para aprender o que, exatamente, deveria identificar, com uma equipe catalogando comentários entre abusivos ou não, de forma que a tecnologia entendesse os padrões envolvidos.

Com tudo isso, a empresa afirma que obteve um resultado 10% melhor que outros sistemas de inteligência artificial usados por ela mesma ou parceiros. A participação de um grande número de pessoas foi essencial, já que as definições de abuso podem variar. Para obter uma amostra considerável, o Yahoo disse ter usado os serviços do “Turco Mecânico” da Amazon, pelo qual participantes de todo o mundo e com diferentes atribuições podem ser contratados remotamente para realizarem serviços desse tipo.

O sistema já está em funcionamento nas áreas de comentários do Yahoo e a perspectiva é que ele se torne cada vez melhor ao longo do tempo, principalmente se os responsáveis por comentários de ódio permanecerem na tentativa de burlá-lo. É justamente isso que a empresa precisa para, quem sabe, criar finalmente um ambiente online livre desse tipo de coisa.

Fonte: Yahoo (WWW 2016)