Publicidade

Tinder usa inteligência artificial como arma contra o abuso

Por| 27 de Janeiro de 2020 às 15h35

Link copiado!

Wired
Wired
Tudo sobre Tinder

O Tinder está usando a inteligência artificial como mais uma forma de evitar abusos e ampliar a segurança dos usuários da plataforma. Um sistema de machine learning, já ativo em 11 países e falando nove idiomas, será capaz de detectar automaticamente quando uma conversa privada começar a seguir um caminho negativo e auxiliará os usuários a se protegerem por meio de bloqueios e sistemas de denúncias.

A plataforma de segurança estará constantemente fazendo a leitura das mensagens trocadas entre os usuários. Ao sinal de problemas, o aplicativo exibirá uma mensagem perguntando se o usuário está incomodado com o que está acontecendo e, em caso positivo, será instruído sobre a possibilidade de reportar o match para que os sistemas de segurança do Tinder possam tomar atitudes, além de bloquear o contato para que a comunicação deixe de acontecer de forma imediata. A plataforma de machine learning deve ser aplicada em todos os países nos quais a empresa atua.

De acordo com o Tinder, a ideia é mudar uma realidade percebida em pesquisas internas e que também começa a virar uma constante nas redes sociais. Enquanto exposições feitas, principalmente, por usuárias começam a aparecer em outras redes sociais, como o Twitter e o Facebook, a companhia percebeu que muitos dos casos evidenciados desta maneira acabam não sendo denunciados à própria plataforma, o que dificulta a ela tomar atitudes e remover aqueles que fazem mau uso de seus sistemas.

Por meio de uma inteligência artificial, a companhia acredita ter encontrado uma maneira pouco intrusiva e também direta de realizar essa moderação, algo que também vem sendo feito por outras plataformas digitais. É um caminho que, ao mesmo tempo, garante uma proteção adicional aos usuários e não fere a privacidade deles, uma vez que o processamento de mensagens é feito somente pelo sistema automatizado e os textos jamais são lidos por funcionários da companhia.

Continua após a publicidade

No Tinder, entretanto, o uso do machine learning serviu como um desafio a mais, pois o que normalmente seria visto como uma linguagem vulgar em outra plataforma pode não valer para o app de namoros. É por isso que, com base em um conjunto inicial de dados compilado a partir de denúncias já realizadas, os responsáveis pela plataforma decidiram seguir com uma notificação, algo que permite ao usuário se demonstrar como seguro e, também, alimenta a tecnologia com mais informações que possam auxiliar em novas detecções e evitar falsos positivos.

Por enquanto, a ideia da empresa é fazer com que a inteligência artificial peque pelo excesso, já que o contrário disso coloca a segurança dos utilizadores em risco. A meta é que, com o tempo, cada usuário tenha seu próprio sistema, funcionando de acordo com preferências pessoais e a forma como prefere utilizar o aplicativo, com modelos customizados criados automaticamente de acordo com as indicações de cada pessoa.

O uso da inteligência artificial se une a outras medidas de segurança que estão sendo implementadas pelo Tinder. Na última semana, a empresa anunciou os testes de um “botão do pânico” que pode ser acionado por usuários em caso de problemas durante os encontros. A iniciativa é parceria com uma empresa de geolocalização e funciona a partir de atendentes reais, que são capazes de tentar contato com possíveis vítimas de abuso e enviar autoridades para o endereço onde elas estão.

Continua após a publicidade

ATUALIZAÇÃO 29/01/2020 09h56: Em comunicado enviado ao Canaltech, o Tinder afirmou que a segurança de seus usuários é uam prioridade global, o que leva a atualizações como estas, que estão sendo aplicadas em mercados selecionados. A parceria com a Noonlight, entretanto, permanece restrita apenas aos Estados Unidos, enquanto outros recursos de segurança como um guia de melhores práticas e verificações de fotos para detectar contas falsas estarão disponíveis em mais países ao longo de 2020.

Fonte: Wired, Tinder