Facebook oferece prêmio para quem conseguir detectar deepfakes
Como parte de desafio, empresa criará deepfakes com pessoas pagas e que autorizaram uso de suas imagens em pesquisas
Deepfake com Mark Zuckerberg publicado em junho
O uso de deepfakes tem se espalhado rapidamente, inclusive com um aplicativo com essa proposta. Mas, enquanto isso acontece, é preciso criar meios de se identificar quais vídeos não são legítimos. É o que o Facebook pretende fazer ao financiar e premiar pesquisas nesse sentido.
- Zao, app de deepfakes, é restrito pelo WeChat por “riscos à segurança”
- O que é deepfake e porque você deveria se preocupar com isso
A empresa investirá US$ 10 milhões para estimular a criação de métodos que apontem se um vídeo foi manipulado. O Desafio de Detecção de Deepfake, como foi chamado, também terá a participação da Microsoft, do consórcio The Partnership on AI e de pesquisadores de várias universidades.
“O objetivo do desafio é produzir uma tecnologia que todos possam usar para detectar melhor quando a inteligência artificial for usada para enganar as pessoas”, explica o vice-presidente de Tecnologia do Facebook, Mike Schroepfer.
Para ajudar os participantes do desafio, o Facebook criará um conjunto de dados com vários deepfakes. “É importante termos dados disponíveis gratuitamente para uso da comunidade, cedidos com consentimento claro dos participantes e poucas restrições de uso”, diz Schroepfer.
O Facebook elaborou o material a partir de vídeos reais feitos com pessoas que foram pagas para isso e que autorizaram o uso dos vídeos nas pesquisas. A empresa garantiu que não usará imagens de seus usuários no desafio.
O material será testado em uma sessão de trabalho técnico na Conferência Internacional sobre Visão Computacional, que acontece em outubro na Coreia do Sul. O Desafio de Detecção de Deepfake deverá ser lançado em dezembro.
Deepfake de Mark Zuckerberg
Um dos experimentos com deepfake envolveu o próprio fundador do Facebook. Um vídeo publicado em junho no Instagram mostrou o que seria Mark Zuckerberg afirmando que “quem controla os dados controla o futuro”.
Os autores do vídeo são Bill Posters e Daniel Howe, que o criaram em parceria com a agência de publicidade Canny. Eles indicavam ainda na descrição que não se tratava de um vídeo legítimo. O Instagram decidiu não excluir o material.
Com informações: Facebook.
