Meta irá rotular imagens criadas por IA generativa

A Meta irá detectar e rotular as imagens geradas por inteligência artificial generativa de outras empresas, como Google e OpenAI, mas que tenham sido publicadas em suas plataformas. A informação foi revelada por Nick Clegg, presidente de assuntos globais da big tech, em um artigo no blog oficial da Meta nesta terça-feira (6).

A Meta usará um conjunto de marcadores invisíveis presente nos arquivos para identificar imagens geradas por IA. Assim, os conteúdos publicados no Facebook, Instagram e Threads terão tags informando que se tratam de criações digitais.

A Meta diz que o sistema de rótulos para imagens criadas por IA visa informar as pessoas que certos conteúdos realistas são criações digitais. Vale dizer que a big tech já usa tags para sinalizar as imagens geradas com as suas próprias ferramentas de IA, como o Meta AI Imagine.

O novo sistema, previsto para ser implantado nos próximos meses, rotulará os conteúdos criados em plataformas de IA de grandes empresas de tecnologia. Entre elas, OpenAI, Microsoft, Adobe, Midjourney, Shutterstock e Google.

O anúncio da Meta revela uma visão antecipada sobre a criação de um sistema padrão para identificar conteúdos feitos com IA generativa. De acordo com especialistas, essa será uma ferramenta necessária para evitar possíveis danos causados por materiais realistas compartilhados na internet.

Anteriormente, Nick Clegg disse à Reuters que estava confiante com a solução da Meta para rotular imagens geradas por IA. O executivo também afirmou que ferramentas para identificar áudio e vídeo criados com IA estavam em desenvolvimento, mas eram técnicas “mais complicadas”.

WhatsApp pode ficar livre de rótulos de IA

De acordo com a Reuters, o porta-voz da Meta recusou a dizer se o sistema de rótulos para conteúdos feitos com IA também seria usado no WhatsApp. Lembrando que, infelizmente, o aplicativo mensageiro da big tech, também é usado por usuários mal-intencionados para espalhar notícias e imagens falsas.

Recentemente, o conselho de supervisão independente da Meta se posicionou contra a política de excluir vídeos adulterados com conteúdos enganosos. Os representantes alegam que os materiais devem ser rotulados em vez de serem removidos das plataformas da big tech.

Nick Clegg concorda com a decisão do grupo e cita que a política inicial adotada pela empresa não era adequada. Então, as pessoas terão que se adaptar a “um ambiente onde você terá muito mais conteúdo sintético e híbrido do que antes”.

Com informações: Reuters

Receba mais sobre Meta na sua caixa de entrada

E-mail:

* ao se inscrever você aceita a nossa política de privacidade