Técnica usada por astrônomos pode ajudar a detectar deepfakes
Olhos de uma pessoa mostram reflexos de luz parecidos, mas inteligência artificial ainda não reproduz esta característica
Uma técnica empregada para medir formatos de galáxias pode ser aplicada a fotos e vídeos para entender se eles são deepfakes. O método analisa o reflexo da luz nos olhos das pessoas para descobrir se as imagens são reais ou foram geradas por inteligência artificial.
O princípio é simples: em imagens reais, há cerca coerência nos reflexos apresentados nos dois olhos; os formatos são parecidos e costumam aparecer voltados para uma mesma direção. Na maioria dos deepfakes criados até o momento, isso não acontece: os reflexos de um olho são diferentes dos reflexos do outro.
Distribuição da luz dá pista sobre deepfakes
O trabalho foi apresentado em um encontro da Royal Astronomical Society, do Reino Unido. Pesquisadores da Universidade de Hull adaptaram as ferramentas usadas por astrônomos para entender verificar a consistência dos reflexos nos globos oculares.
Eles repetiram o método usado para descobrir o formato de galáxias, usando o coeficiente de Gini. Mais famoso na economia, como medida distribuição de renda, ele também pode ser usado para estudar galáxias ou classificar a distribuição da luz nos olhos.
A luminosidade pode ser mais uniforme por toda a área (valor mais próximo a 0) ou concentrada em um ponto (próximo a 1). Quando há uma grande diferença entre os valores dos dois olhos, há chance de ser um deepfake.
O trabalho foi liderado pela mestranda Adejumoke Owolabi, sob orientação do professor de astrofísica Kevin Pimbblet. Os pesquisadores também tentaram usar um método chamado CAS (sigla em inglês para concentração, assimetria, suavidade), também usado na medição de galáxias, mas não obtiveram sucesso.
Apesar de promissora, a ferramenta precisa ser aperfeiçoada. Ao blog da Royal Astronomical Society, Pimbblet diz que pode haver falsos positivos e falsos negativos — nem todas as fotos reais têm distribuições parecidas de luz nos dois olhos, e nem todas os deepfakes apresentam o problema.
Mesmo assim, não se pode desprezar esta descoberta. “Este método nos fornece uma base, um plano de ataque, na corrida para detectar deepfakes”, avalia Pimbblet. A “arma” da Universidade de Hull não é a única: recentemente, a Intel desenvolveu uma tecnologia para identificar sinais de fluxo sanguíneo em rostos. Se a pessoa no vídeo não apresenta este fluxo, provavelmente é um deepfake.
Com informações: Ars Technica, Royal Astronomical Society
