OpenAI vai colocar marca d'água em imagens geradas no DALL-E 3
Por Fabrício Calixto | Editado por Douglas Ciriaco | 07 de Fevereiro de 2024 às 10h19
A OpenAI anunciou nessa terça-feira (6) que vai adicionar marcas d’água e metadados para identificar imagens geradas no DALL-3, atendendo aos novos padrões da Coalition for Content Provenance and Authencity (C2PA), uma iniciativa que visa combater informações enganosas na internet. A novidade coincide com o anúncio da Meta, que também prometeu marcar conteúdos gerados por IA.
A intenção da OpenAI de aderir ao projeto da C2PA é evitar que conteúdo considerado realista gerado por IA seja usado para propagar fake news e desinformação, dispondo de um mecanismo para rastrear a origem do material.
Marca de autenticidade
O padrão C2PA é uma tecnologia capaz de adicionar um símbolo CR (uma espécie de carimbo interativo) nas imagens, e ele pode conter informações detalhadas do conteúdo — como em qual plataforma a foto foi gerada ou o nome do aplicativo que foi usado para criar o registro.
Na mesma publicação, a OpenAI também revelou que vai adotar o padrão para o aplicativo do ChatGPT a partir de 12 de fevereiro (vale lembrar que o chatbot também é capaz de criar imagens). Essa marca d’água ficaria disposta no canto superior esquerdo da imagem e, através dela, seria possível conferir uma versão detalhada com todos os metadados.
Além disso, a Big Tech garante que, em um primeiro momento, os selos de autenticidade não terão impacto no peso das imagens. No caso, os arquivos continuarão possuindo somente alguns kilobytes ou megabytes nos formatos WEBP e PNG, respectivamente.
Há um porém...
Embora a adição de marcas d’água em imagens geradas pelo DALL-E 3 seja vista com bons olhos, a OpenAI admite que o sistema pode ser evitado com facilidade e que os metadados contidos nas imagens podem ser excluídos de forma acidental ou não.
“Metadados como C2PA não são uma solução mágica para garantir a origem das imagens. É algo que pode ser facilmente removido acidental ou intencionalmente", revela a companhia em nota. "Por exemplo, a maioria das plataformas de mídia social remove metadados de imagens enviadas, e ações como tirar uma captura de tela também o fazem. Assim, o fato de não possuir metadados não é conclusivo se eles foram gerados com ChatGPT e nossa API ou não”, finaliza a OpenAI.
Portanto, fica o desafio não só para a OpenAI, mas também para outras empresas que contam com APIs e criadores de imagens com base em IA generativa.