Facebook barrou 6,5 bilhões de contas falsas em um ano usando IA
IA do Facebook consegue barrar a maior parte das contas falsas já no processo de criação
IA do Facebook consegue barrar a maior parte das contas falsas já no processo de criação
Um dos maiores desafios do Facebook é lidar com contas falsas em sua rede social. Ainda que o problema não tenha sido completamente resolvido, a companhia vem conseguindo enfrentá-lo com uma arma poderosa: a inteligência artificial. Graças a ela, a companhia pôde combater mais de 6,5 bilhões de perfis falsos só em 2019.
É muita coisa, principalmente se levarmos em conta que a rede social tem pouco mais de 2,5 bilhões de usuários (reais) ativos por mês. A boa notícia é que a maior parte das contas falsas é identificada durante o processo de criação.
Além disso, muitos dos perfis que não são barrados nessa fase são identificados posteriormente, mesmo que não tenham sido denunciados por usuários reais.
A principal (mas não a única) arma do Facebook para esse fim é um sistema chamado Deep Entity Classification (DEC). Baseado em aprendizagem de máquina, ele consegue diferenciar perfis falsos de verdadeiros usando mais de 20 mil critérios definidos pelo Facebook.
Basicamente, o que o DEC faz é identificar comportamentos que são típicos de contas falsas. Como os criadores dessas contas descobrem como imitar o comportamento de perfis verdadeiros com o passar do tempo, o DEC também leva em consideração “recursos profundos”, ou seja, parâmetros que não podem ser manipulados por usuários, pelo menos não facilmente.
Entre esses parâmetros estão análises de atividades da conta suspeita com contatos, grupos e páginas. Funciona? Tudo indica que sim: o Facebook explica que, com auxílio do DEC, conseguiu diminuir a proporção de contas falsas criadas a cada mês em 27%.
É um avanço considerável, mas estima-se que ainda há pelo menos 100 milhões de contas falsas atuando todos os meses na rede social. O Facebook sabe disso, assim como reconhece que essa é uma guerra sem fim: spammers e outros criadores de perfis falsos estão sempre testando métodos para burlar as proteções do serviço.
A abordagem que vem sendo feita visa, portanto, reduzir ao máximo o alcance do problema. É como combater o spam no e-mail: provavelmente, essa prática nunca será derrotada, mas pode ser controlada.
No estágio atual, talvez o DEC consiga ajudar o Facebook a evitar que contas falsas sejam usadas, por exemplo, para manipulação política nas eleições presidenciais de 2020 nos Estados Unidos. É esperar para ver.
Com informações: The Verge, MIT Technology Review.
Leia | Tentativa de login suspeita bloqueada? Saiba o que fazer