Especialista alerta para os riscos no uso de deep fakes por crianças

A tecnologiadeep fake é uma que vive no limiar entre a diversão e o problema. Para cada vídeo de Tom Cruise dando risada ou Margot Robbie realizando dancinhas do TikTok, por exemplo, há a inserção do rosto de uma celebridade em um vídeo pornográfico ou frases polêmicas saindo da boca de quem nunca as disse. Para as crianças, o perigo é maior, principalmente na medida em que os apps que permitem tais manipulações se tornam populares.

• 10 deepfakes mais impressionantes que confundiram a internet
• Criminosos buscam empregos para roubar dados corporativos

Quem faz o alerta é a ESET, empresa de segurança da informação e detecção de ameaças, que possui uma iniciativa focada na proteção dos pequenos na internet que também envolve os deep fakes, chamada Digipais. Eles citam, por exemplo, o uso da ferramenta em ações de bullying ou como forma de disseminar desinformação, elementos que podem causar danos a quem ainda está em fase de formação.

Um exemplo é a inserção do rosto de alguém em vídeos jocosos ou com explícitas ou de abuso. “Versões mais simples dessas manipulações podem ser feitas facilmente usando aplicativos como FaceApp ou FaceSwap”, explica Camilo Gutiérrez, chefe do laboratório de investigação da ESET. Ainda que os criadores considerem essa uma fonte inocente de entretenimento, explica ele, o constrangimento pode gerar situações desagradáveis ou estragar a relação com o ambiente escolar, por exemplo.

Em outros casos, o mesmo tipo de tática pode ser usada para introduzir um conceito falso ou enviesado. Como dito, é uma faca de dois gumes, já que a tecnologia que serve para isso também permite que as crianças se divirtam inserindo o próprio rosto na pele de seu super-herói preferido, por exemplo, ou em iniciativas educacionais como a do Museu Dalí, nos EUA, que criou uma versão virtual do artista, via deep fake, para interagir com os visitantes.

O segredo, como na maioria do lide com crianças e adolescentes, está no diálogo. A recomendação da ESET aos pai é que conversem e assistam juntos a esse tipo de conteúdo manipulado, analisando o tema e tentando identificar quais cenas são reais e falsas. Explicar como a tecnologia é usada e como ela pode ser utilizada para o bem ou mal também ajuda, assim como falar sobre consentimento e responsabilidade.

O combate á desinformação também passa pela atenção ao que é compartilhado, bem como na busca por medidas preventivas na internet. Ferramentas online, por exemplo, ajudam a identificar com tecnologia artificial um deep fake, enquanto elementos como falhas na iluminação e movimentos do rosto, que gerem estranheza, também funcionam como alertas de que um conteúdo é falsificado.

Enquanto isso, às empresas, a ESET recomenda a tomada de medidas para coibir o mau uso da tecnologia. Na Europa, por exemplo, estão em estudo normas de combate à desinformação que podem responsabilizar as empresas que não conterem a disseminação de deep fakes negativos, enquanto empresas como o Google já proibiram o uso dessa tecnologia em uma plataforma focada em pesquisas com inteligência artificial e alto fluxo de dados para processamento.