OpenAI vai colocar marca d’água invisível em imagens geradas pelo ChatGPT

Informação sobre ferramenta usada para criar imagem ficará nos metadados do arquivo, mas pode se perder acidental ou intencionalmente, alerta OpenAI

Por Giovanni Santa Rosa

há 2 meses

OpenAI vai seguir padrão criado por grupo de empresas (Imagem: Vitor Pádua / Tecnoblog)

A OpenAI vai colocar marca d’água nos metadados das imagens geradas pelo ChatGPT e pela API do Dall-E 3, seguindo os padrões da C2PA (Coalizão pela Proveniência e Autenticidade de Conteúdo). As criações também terão um logo no canto superior esquerdo.

A C2PA é um grupo de empresas que inclui nomes como Adobe e Microsoft. Ele foi formado para criar padrões que permitam rastrear a origem de diferentes tipos de mídia. O grupo desenvolveu a marca d’água invisível Content Credentials, que mostra qual foi a ferramenta usada para gerar uma imagem. O padrão vai além de IA e inclui câmeras e programas de edição de imagem.

Segundo a empresa, a mudança não terá efeito significativo na qualidade das imagens geradas, nem fará o processo demorar mais. Alguns arquivos podem ficar um pouco maiores.

Ferramenta Content Credentials mostrando informações sobre imagem criada usando ChatGPT — Ferramenta Content Credentials mostra que imagem foi criada em “dois passos”: o Dall-E gerou e o ChatGPT entregou o arquivo (Imagem: Divulgação/OpenAI)

A marca d’água não é garantia de que todas as imagens criadas por IA que circulam na internet poderão ser identificadas. A OpenAI admite que os metadados podem ser “facilmente removidos, seja acidental ou intencionalmente”. Redes sociais geralmente removem metadados de arquivos, e mesmo tirar um print da imagem já faz com que estas informações se percam.

Mesmo assim, a companhia acredita que essa iniciativa pode ajudar. “Acreditamos que adotar estes métodos para estabelecer a proveniência e encorajar os usuários a reconhecer estes sinais é essencial para aumentar a confiabilidade da informação digital”, diz a empresa em seu site.

Meta vai identificar imagens criadas por IA

A medida da OpenAI vem alguns dias após a Meta anunciar que acrescentará rótulos para identificar imagens geradas por inteligência artificial. A informação vai aparecer nas redes sociais da empresa: Facebook, Instagram e Threads.

Imagem gerada por IA recebe selo de notificação de conteúdo no Instagram — Publicação no Instagram informa que a foto realista foi gerada por uma plataforma de IA (Imagem: Divulgação/Meta)

O sistema será implementado nos próximos meses e vai funcionar para as IAs de várias empresas, como OpenAI, Microsoft, Adobe, Midjourney, Shutterstock e Google, entre outras. Imagens criadas com ferramentas da própria Meta já recebem essa identificação.

Com informações: OpenAI, The Verge