Um vídeo postado recentemente no Instagram mostra Mark Zuckerberg fazendo uma declaração polêmica. Só que não é ele: trata-se, na verdade, de um deepfake muito bem produzido. Apesar disso, o Facebook assegura: o vídeo manipulado não será removido do Instagram.

• O que é deepfake e porque você deveria se preocupar com isso
• Como o Facebook identifica uma conta falsa?

O vídeo falso mostra Zuckerberg dizendo: “imagine isso por um segundo: um homem, com controle total de bilhões de dados roubados, todos os seus segredos, suas vidas, seu futuro. Eu devo tudo isso à Spectre. A Spectre me mostrou que quem controla os dados controla o futuro”.

Tudo foi feito de maneira tão cuidadosa que fica difícil acreditar que o vídeo é uma montagem. Mas é. Os autores do deepfake são Bill Posters e Daniel Howe, que fizeram o trabalho em parceria com a agência de publicidade Canny.

A própria agência revelou que o vídeo foi produzido com base no algoritmo Face2Face, das Universidades de Washington e Stanford. Além disso, eles usaram um trecho de um vídeo verdadeiro de Zuckerberg para treinar o algoritmo de inteligência artificial.

Por fim, os autores reconstruíram o rosto de Zuckerberg em cada instante do vídeo de modo que a expressão dele correspondesse à fala do dublador. O resultado é impressionante:

 

Ver essa foto no Instagram

 

Uma publicação compartilhada por Bill Posters (@bill_posters_uk) em 7 de Jun, 2019 às 7:15 PDT

Apesar de reconhecidamente falso, o Facebook declarou que não pretende remover o vídeo do Instagram e, presumivelmente, da sua própria rede social.

Eis a justificativa dada: como o material não viola as políticas da companhia, o vídeo será tratado como um conteúdo de desinformação que, como tal, deixa de ser exibido na opção Explorar do Instagram e de funcionar com hashtags. Ainda assim, o vídeo só será considerado como desinformação se agências externas de verificação de fatos o classificarem como falso.

Spectre é o nome de um trabalho artístico que tenta chamar atenção para o risco de manipulação de pessoas por meio das redes sociais. O mesmo trabalho levou à criação de deepfakes de Donald Trump, Morgan Freeman e Kim Kardashian.

Por que Mark Zuckerberg foi o alvo da vez? Parece ser uma provocação. Recentemente, o Facebook foi criticado por não excluir um deepfake de Nancy Pelosi, atual presidente da Câmara dos Deputados dos Estados Unidos, por considerar que o vídeo não viola as suas políticas. Nele, Pelosi parecia estar bêbada. O YouTube, por sua vez, removeu a publicação.

O deepfake de Zuckerberg teria sido criado, portanto, para checar se o Facebook manteria esse discurso com uma “vítima” da sua própria casa. A empresa teve que manter. Se tivesse removido o vídeo, o Facebook estaria sendo acusado de hipocrisia a essa hora.

Com informações: TechCrunch, BBC.