Bumble ganha opção para denunciar fotos geradas por IA
Por Guilherme Haas |
O aplicativo de encontros Bumble anunciou uma nova função que permite aos usuários reportar perfis que utilizam fotos ou vídeos gerados por IA. Essa adição visa aumentar a segurança e a confiança na plataforma, ajudando a combater perfis falsos que possam enganar ou prejudicar os membros da comunidade.
“Um aspecto essencial para criar um espaço onde conexões significativas possam ser formadas é remover qualquer elemento que seja enganoso ou perigoso”, afirmou a vice-presidente de produto do Bumble, Risa Stein, em comunicado oficial.
“Estamos comprometidos em melhorar continuamente nossa tecnologia para garantir que o Bumble seja um ambiente seguro e confiável”, destacou Stein. “Ao introduzir essa nova opção de denúncia, podemos entender melhor como atores mal-intencionados e perfis falsos estão usando IA de forma desonesta, proporcionando à nossa comunidade mais confiança nas conexões que fazem.”
Imagens geradas por IA no Bumble
Uma pesquisa realizada pelo Bumble revelou que 71% do público das gerações Z e Millennial desejam ver limitações no uso de conteúdo gerado por IA em aplicativos de namoro.
Outro dado interessante é que igualmente 71% consideram fotos geradas por IA de pessoas em lugares onde nunca estiveram ou realizando atividades que nunca fizeram uma forma de catfishing.
No início deste ano, o Bumble lançou a ferramenta "Deception Detector", que utiliza IA para identificar perfis falsos. Além disso, o aplicativo introduziu uma ferramenta alimentada por IA para proteger os usuários de fotos indesejadas.
Com a nova opção de denúncia, quando um usuário desejar reportar um perfil, ele poderá escolher a categoria "Perfil Falso" e selecionar a opção "Usando fotos ou vídeos gerados por IA". Outras opções de denúncia incluem conteúdo inapropriado, usuários menores de idade, golpes e uso de fotos de outras pessoas, entre outras.
Muitos aplicativos de namoro já adotam medidas de segurança para proteger seus usuários de golpes e perigos físicos, e o uso de IA para criar perfis falsos é a mais recente ameaça a ser combatida.
Perfis falsos podem causar prejuízos significativos. Em 2022, a Comissão Federal de Comércio dos Estados Unidos recebeu cerca de 70 mil relatos de golpes por apps de encontros, resultando em perdas na casa de US$ 1,3 bilhão.