Facebook e Microsoft promovem concursos para detectar deepfakes

Nesta quinta-feira (5), o Facebook, a Microsoft, a Partnership on AI e os acadêmicos de sete universidades lançaram um concurso chamado Deepfake Detection Challenge, cujo objetivo é incentivar maneiras de detectar deepfakes, que são aqueles recursos que colocam o rosto de uma pessoa em algum vídeo (com o auxílio de uma inteligência artificial), com a intenção de ser o mais realista possível, chegando a causar confusão, já que um espectador desavisado não sabe se a pessoa fez aquilo mesmo do vídeo ou se é montagem. O concurso será realizado no final de 2019.

Essa ferramenta já fez parte dos cinemas, como em Forrest Gump, de 1994, em que inseriram Tom Hanks em um clipe de filme antigo para fazer parecer que o ator estava cumprimentando Richard Nixon. No entanto, os deepfakes não têm uma reputação muito boa, exatamente, e geram preocupação (já que, dentre as funcionalidades do deepfake, é possível colocar o rosto de um político em um ator pornô, por exemplo). Mike Schroepfer, diretor técnico do Facebook, teme que os especialistas em inteligência artificial estejam gastando muito tempo aperfeiçoando deepfakes e não estejam gastando tempo suficiente para encontrar maneiras de detectá-los.

Os organizadores do Deepfake Detection Challenge não especificaram os prêmios para o concurso, mas o que se sabe é que ele vai durar até o começo de 2020. O concurso vai acontecer da seguinte forma: os participantes terão acesso a uma coleção de vídeos deepfake que o Facebook planeja lançar em dezembro. Os vídeos contarão com atores profissionais que consentiram em usar seus rostos nos deepfakes, mas Schroepfer conta que esses vídeos serão semelhantes a vídeos reais do Facebook. O diretor técnico afirma que nenhum dado de usuário do Facebook será usado.

Um grande desafio para os pesquisadores é a necessidade de acumular vários exemplos de deepfakes para treinar um sistema de detecção. Schroepfer diz que é relativamente fácil detectar uma falha profunda quando um sistema já está acostumado com o vídeo original, mas fora isso, é muito difícil. Ele defende ainda que a ideia do concurso não é criar um sistema que acabe com todos os deepfakes para sempre, mas encontrar maneiras de tornar mais difícil e mais caro criar deepfakes aceitáveis.

Fonte: Wired