Facebook oferece prêmio para quem conseguir detectar deepfakes

O uso de deepfakes tem se espalhado rapidamente, inclusive com um aplicativo com essa proposta. Mas, enquanto isso acontece, é preciso criar meios de se identificar quais vídeos não são legítimos. É o que o Facebook pretende fazer ao financiar e premiar pesquisas nesse sentido.

• Zao, app de deepfakes, é restrito pelo WeChat por “riscos à segurança”
• O que é deepfake e porque você deveria se preocupar com isso

A empresa investirá US$ 10 milhões para estimular a criação de métodos que apontem se um vídeo foi manipulado. O Desafio de Detecção de Deepfake, como foi chamado, também terá a participação da Microsoft, do consórcio The Partnership on AI e de pesquisadores de várias universidades.

“O objetivo do desafio é produzir uma tecnologia que todos possam usar para detectar melhor quando a inteligência artificial for usada para enganar as pessoas”, explica o vice-presidente de Tecnologia do Facebook, Mike Schroepfer.

Para ajudar os participantes do desafio, o Facebook criará um conjunto de dados com vários deepfakes. “É importante termos dados disponíveis gratuitamente para uso da comunidade, cedidos com consentimento claro dos participantes e poucas restrições de uso”, diz Schroepfer.

O Facebook elaborou o material a partir de vídeos reais feitos com pessoas que foram pagas para isso e que autorizaram o uso dos vídeos nas pesquisas. A empresa garantiu que não usará imagens de seus usuários no desafio.

O material será testado em uma sessão de trabalho técnico na Conferência Internacional sobre Visão Computacional, que acontece em outubro na Coreia do Sul. O Desafio de Detecção de Deepfake deverá ser lançado em dezembro.

Deepfake de Mark Zuckerberg

Um dos experimentos com deepfake envolveu o próprio fundador do Facebook. Um vídeo publicado em junho no Instagram mostrou o que seria Mark Zuckerberg afirmando que “quem controla os dados controla o futuro”.

Os autores do vídeo são Bill Posters e Daniel Howe, que o criaram em parceria com a agência de publicidade Canny. Eles indicavam ainda na descrição que não se tratava de um vídeo legítimo. O Instagram decidiu não excluir o material.

Com informações: Facebook.