SRI desenvolvendo tecnologia contra DeepFakes

Algum tempo atrás um jovem desocupado postou alguns vídeos no Reddit, demonstrando uma tecnologia envolvendo machine learning e redes neurais usada para substituir rostos em vídeos. A Internet sendo Internet, obviamente o primeiro uso foi para fins safadeenhos, e o resultado era impressionante. Sem muito esforço era possível colocar o rosto da bela e pura Emma Watson em vídeos da, sei lá, Bailey Jay, confundindo a cabeça de milhões de jovens.

Só que esses eram tempos inocentes, de lá pra cá os DeepFakes se tornaram bem mais perigosos.

Se com PCs comuns é possível fazer vídeos assim, que enganariam 99% dos grupos de Whatsapp, imagine com recursos de um Estado-Nação?

Sendo realista, não há qualquer dúvida de que todos os grandes (e pequenos) players vão usar essa tecnologia. Desde que o mundo é mundo falsificação de documentos, fotos e gravações é usado como estratégia de inteligência, que o diga a Operação Mincemeat.

Operação Mincemeat

Em 1943 os Aliados estavam preparando a Invasão da Sicília (que foi um fracasso mas isso é outra história). O problema é que era bem óbvio e os alemães provavelmente iriam reforçar as tropas. Era preciso convencê-los de que o ataque seria em outra região, mas como?

A idéia surgiu anos antes em um memorando assinado pelo Contra-Almirante John Godfrey, Diretor da Divisão de Inteligência Naval britânica, mas todo mundo reconheceu as idéias do assistente do Contra-Almirante, o Tenente-Coronel Ian Fleming.

Isso mesmo, iriam implementar uma idéia do futuro criador de James Bond, e era algo digno de filme mesmo.

O conceito era criar uma pessoa fictícia, extremamente convincente, e deixar que seu corpo fosse encontrado pelos nazistas. Ele levaria documentos sigilosos com as informações falsas que queriam que caíssem em mãos "erradas", mas não se deixe levar pelo pessoal de Charlottesville, antigamente não existia nazista burro.

O primeiro passo era arrumar um corpo, o que não era tão fácil, mesmo em meio a uma guerra. As pessoas tendem a se apegar a seus parentes, e fazem perguntas. Era preciso um corpo de alguém sem parentes vivos, com todos os dentes, idade adequada e que pudesse se passar por um oficial. O escolhido foi Glyndwr Michael, um mendigo que morreu depois de comer veneno de rato.

Tiveram o cuidado de ver se a quantidade de veneno em seu corpo seria detectável após vários dias na água, e se um legisla identificaria a causa mortis como queda de avião, como planejado.

Com o corpo fora de caminho, era a hora de criar uma identidade. Ele virou o Capitão William Martin, do Corpo Real de Fuzileiros. Em seus bolsos eles colocaram recibos de hotel, ingressos de teatro, cadernetas de selos, cigarros, medalhas de São Cristóvão, cartas do pai, mensagens bancárias, e até foto da namorada, Pam:

Não, Pam também não existia, ela era Jean Leslie, secretária do MI5 que foi convocada para posar para fotos de maiô (tudo pela pátria) e escrever duas cartas de amor que foram incluídas nas posses de Martin. O trabalho foi tão completo que incluíram até o recibo de um anel de diamantes no valor de 53 Libras. O que dá US$3,099.88 em valores atuais, Martin devia ser apaixonado pela Pam. Snif.

Foram feitas várias versões dos materiais, com os cientistas do MI5 testando diversos tipos de tintas para achar as que resistiriam mais tempo no oceano.

A parte mais complicada foi criar os documentos pessoais de Martin. Tentaram fotografar o cadáver, mas ele acabou parecendo... um cadáver. O jeito foi achar um sujeito bem parecido, vestir com o uniforme e fotografar assim mesmo.

Com essa parte resolvida (incluindo a aquisição de cuecas usadas pois ninguém usava cuecas zero km na guerra, estava em falta) foi a hora de escrever os documentos com informações falsas. Um figuração das Forças Armadas Britânicas redigiu uma mensagem para outro general, falando de vários assuntos incluindo a descoberta de que os alemães estariam reforçando suas posições na Grécia e na Sardenha, o que afetaria a invasão iminente, e portanto deveriam mandar reforços também para aumentar a força invasora.

Com tudo organizado, o corpo foi colocado em um container especial marcado como "instrumentos ópticos" e levado para o submarino HMS Seraph, que navegou até a costa da Espanha. Somente os oficiais sabiam o que o container continha, e somente eles estavam no convés para lançar o pobre Martin ao mar, no dia 17 de Abril de 1943.

Como planejado o corpo foi eventualmente encontrado. Em 30 de Abril de 1943 pescadores o acharam e levaram até soldados, na cidade de Huelva. Enquanto isso os ingleses trocavam mensagens urgentes falando sobre a queda de um avião com um courrier levando documentos muito importantes. As mensagens eram criptografadas, mas os nazistas haviam quebrado o código. Sim, os ingleses sabiam disso. Thanks, Alan Turing.

A Espanha era tecnicamente neutra, o que é uma piada. O Generalíssimo Franco chegou ao poder graças ao apoio de países como Itália, Portugal, Alemanha e o Vaticano (sério). Hitler usou o campo de batalha como área de provas para testar suas táticas e equipamentos, como o JU-87 Stuka, o terrível bombardeiro de mergulho que destruiu Guernica.

O Stuka ganhou sua fama na Espanha, na Segunda Guerra Mundial ele já era obsoleto e alvo fácil em qualquer região onde o inimigo tivesse aviões no ar, mas até hoje ele é visto como um avião bem melhor do que foi, fora sua peculiar sirene, que é usada em todo filme onde um bombardeiro de mergulho aparece, mesmo os próprios pilotos desativando as sirenes dos Stukas, pois aquela desgraça ficava apitando o tempo todo, mesmo em vôo horizontal.

De qualquer jeito, fazendo ou não barulho os Stukas foram fundamentais para a chegada de Franco ao poder, que durante a segunda Guerra não se alinhou com nenhum dos lados, não senhor.

Se alguém perguntasse provavelmente Franco diria que era Fascista do Bem, e não se alinhava com a Alemanha, mas a estratégia era apenas não abrir mais uma frente de combate, o que tornaria a situação mais complicada para Hitler, e mesmo em "paz" Franco era útil, como foi ao repassar aos alemães os documentos encontrados com o corpo de Martin.

As cartas foram abertas, secas, fotografadas, umedecidas de novo, colocadas de novo nos envelopes e relacradas. No final os ingleses foram comunicados da descoberta do corpo, que foi enterrado na Espanha, mas a maleta de documentos devolvida.

Ao mesmo tempo o chefe na Espanha da Abwehr, o Serviço Secreto Alemão voava pessoalmente para Berlim levando as cópias dos documentos, dado seu grau de importância. Logo mensagens alemãs decodificadas mostravam que Hitler tinha plena certeza que a invasão não seria na Sicília, para desespero de Mussolini, que ao menos uma vez na vida estava certo sobre alguma coisa.

E Hoje?

Hoje temos isto:

Um comediante fazendo imitação de um Presidente, com um vídeo perfeitamente aceitável para a maior parte da população, falando o que quiser. E o vídeo não foi feito pela NSA, CIA ou ILM, foi feito pelo BUZZFEED.

Imagine quando isso se tornar popular, quantos vídeos assim serão feitos? E não, não é preciso nem ter um bom imitador, a tecnologia de redes neurais chegou ao ponto de startups como a LyreBird desenvolverem aplicações onde texto é lido na voz de personalidades famosas.

Felizmente há gente séria de olho nisso, e a DARPA está financiando projetos para identificar automaticamente vídeos adulterados com a técnica de DeepFake. Os resultados estão começando a aparecer.

A SRI desenvolveu uma tecnologia chamada SAVI (Spotting Audio-Visual Inconsistencies), que detecta inconsistências em vídeos.

Eles comparam a movimentação do rosto no vídeo com o áudio sendo falado, procurando movimentos anormais, saltos e outros pequenos defeitos. Também identificam detalhes como reverberação, se um vídeo for feito ao ar livre e o áudio soar como gravado em estúdio, é um alerta.

Falhas de sincronização labial são muito comuns, e também são detectadas.

Por enquanto é uma ferramenta em fase preliminar de desenvolvimento, mas caso dê certo, versões 100% automatizadas PRECISAM ser usadas como filtros em todas as redes sociais, do contrário o futuro será o caos. A Máquina de Destruir Reputações ganhará poderes quase absolutos, e se há algo que não funciona na Internet, é tentar reverter uma acusação idiota baseada em uma mentira.

Ainda mais uma mentira que tem até um vídeo como "prova". Como aquela vez em que Barack Obama foi Miss Angola. (NSFL, não clique)