Um vídeo postado recentemente no Instagram mostra Mark Zuckerberg fazendo uma declaração polêmica. Só que não é ele: trata-se, na verdade, de um deepfake muito bem produzido. Apesar disso, o Facebook assegura: o vídeo manipulado não será removido do Instagram.
- O que é deepfake e porque você deveria se preocupar com isso
- Como o Facebook identifica uma conta falsa?
O vídeo falso mostra Zuckerberg dizendo: “imagine isso por um segundo: um homem, com controle total de bilhões de dados roubados, todos os seus segredos, suas vidas, seu futuro. Eu devo tudo isso à Spectre. A Spectre me mostrou que quem controla os dados controla o futuro”.
Tudo foi feito de maneira tão cuidadosa que fica difícil acreditar que o vídeo é uma montagem. Mas é. Os autores do deepfake são Bill Posters e Daniel Howe, que fizeram o trabalho em parceria com a agência de publicidade Canny.
A própria agência revelou que o vídeo foi produzido com base no algoritmo Face2Face, das Universidades de Washington e Stanford. Além disso, eles usaram um trecho de um vídeo verdadeiro de Zuckerberg para treinar o algoritmo de inteligência artificial.
Por fim, os autores reconstruíram o rosto de Zuckerberg em cada instante do vídeo de modo que a expressão dele correspondesse à fala do dublador. O resultado é impressionante:
Ver essa foto no Instagram
Apesar de reconhecidamente falso, o Facebook declarou que não pretende remover o vídeo do Instagram e, presumivelmente, da sua própria rede social.
Eis a justificativa dada: como o material não viola as políticas da companhia, o vídeo será tratado como um conteúdo de desinformação que, como tal, deixa de ser exibido na opção Explorar do Instagram e de funcionar com hashtags. Ainda assim, o vídeo só será considerado como desinformação se agências externas de verificação de fatos o classificarem como falso.
Spectre é o nome de um trabalho artístico que tenta chamar atenção para o risco de manipulação de pessoas por meio das redes sociais. O mesmo trabalho levou à criação de deepfakes de Donald Trump, Morgan Freeman e Kim Kardashian.
Por que Mark Zuckerberg foi o alvo da vez? Parece ser uma provocação. Recentemente, o Facebook foi criticado por não excluir um deepfake de Nancy Pelosi, atual presidente da Câmara dos Deputados dos Estados Unidos, por considerar que o vídeo não viola as suas políticas. Nele, Pelosi parecia estar bêbada. O YouTube, por sua vez, removeu a publicação.
O deepfake de Zuckerberg teria sido criado, portanto, para checar se o Facebook manteria esse discurso com uma “vítima” da sua própria casa. A empresa teve que manter. Se tivesse removido o vídeo, o Facebook estaria sendo acusado de hipocrisia a essa hora.
Com informações: TechCrunch, BBC.
Comentários
Envie uma perguntaOs mais notáveis
Ja tem so que demora mais para treinar
Seria útil para séries de filme onde o ator morre antes do fim da obra.
Inviável.
É mais fácil ensinar as pessoas a pesquisarem sobre o certo e o errado.
Tomara que na próxima eleição, o TSE deixe de existir junto com seu partido de estimação!
Tomara que o TSE tome providencias nas próximas eleições, como por exemplo, colocar um quadro dentro da propaganda eleitoral com todos os deepfake que possam realmente confundir o eleitor.
Só quero é ver nas próximas eleições o whatsapp comendo solto com vídeo de deepfake.
O mais interessante é essa tecnologia casar os movimentos labiais com a fala do dublador. Isso vai ser excelente quando estiver aprimorado o suficiente para ser usado em filmes e séries.
Pensei que o deepfake era sobre o Foicebook dizer que iria garantir a privacidade dos usuários.
Zoeira never ends