OpenAI vai colocar marca d’água invisível em imagens geradas pelo ChatGPT
Informação sobre ferramenta usada para criar imagem ficará nos metadados do arquivo, mas pode se perder acidental ou intencionalmente, alerta OpenAI
Informação sobre ferramenta usada para criar imagem ficará nos metadados do arquivo, mas pode se perder acidental ou intencionalmente, alerta OpenAI
A OpenAI vai colocar marca d’água nos metadados das imagens geradas pelo ChatGPT e pela API do Dall-E 3, seguindo os padrões da C2PA (Coalizão pela Proveniência e Autenticidade de Conteúdo). As criações também terão um logo no canto superior esquerdo.
A C2PA é um grupo de empresas que inclui nomes como Adobe e Microsoft. Ele foi formado para criar padrões que permitam rastrear a origem de diferentes tipos de mídia. O grupo desenvolveu a marca d’água invisível Content Credentials, que mostra qual foi a ferramenta usada para gerar uma imagem. O padrão vai além de IA e inclui câmeras e programas de edição de imagem.
Segundo a empresa, a mudança não terá efeito significativo na qualidade das imagens geradas, nem fará o processo demorar mais. Alguns arquivos podem ficar um pouco maiores.
A marca d’água não é garantia de que todas as imagens criadas por IA que circulam na internet poderão ser identificadas. A OpenAI admite que os metadados podem ser “facilmente removidos, seja acidental ou intencionalmente”. Redes sociais geralmente removem metadados de arquivos, e mesmo tirar um print da imagem já faz com que estas informações se percam.
Mesmo assim, a companhia acredita que essa iniciativa pode ajudar. “Acreditamos que adotar estes métodos para estabelecer a proveniência e encorajar os usuários a reconhecer estes sinais é essencial para aumentar a confiabilidade da informação digital”, diz a empresa em seu site.
A medida da OpenAI vem alguns dias após a Meta anunciar que acrescentará rótulos para identificar imagens geradas por inteligência artificial. A informação vai aparecer nas redes sociais da empresa: Facebook, Instagram e Threads.
O sistema será implementado nos próximos meses e vai funcionar para as IAs de várias empresas, como OpenAI, Microsoft, Adobe, Midjourney, Shutterstock e Google, entre outras. Imagens criadas com ferramentas da própria Meta já recebem essa identificação.