Como o Facebook identifica uma conta falsa?

Todos os anos, o Facebook divulga um somatório de milhões de contas falsas removidas na rede social. Apenas nos três primeiros meses de 2019, removeu mais de dois bilhões de fakes. O número é quase que o dobro do total de remoções que aconteceu nos três meses anteriores em 2018. E quase o mesmo de usuários ativos.

Com o aumento das remoções de perfis falsos, o Facebook achou que seria um bom momento dar mais detalhes sobre como são classificadas. A rede social diz acreditar que o total seja medido corretamente. E, embora o reporte de perfil fake seja um padrão da indústria, aponta que isso pode recair de forma negativa na sua imagem, já que é frequentemente acusado de inflar totais de visualização de vídeos e anúncios.

Sinais de um Facebook falso

Não estamos falando aqui de alguém que criou um fake para bisbilhotar sem ser reconhecido ou coisa parecida. O Facebook trabalha, prinicipalmente, contra automações. Quando alguém cria uma conta e envia muitos pedidos de amizade, pode soar como um spammer. Às vezes, alguém se cadastra e se comporta de maneira estranha, reagindo a milhares de posts, curtindo outros milhares, fotos e comentários.

Essas contas estão sob suspeita.

Como são detectados os perfils falsos?

Há três processos, de acordo com o Relatório de Aplicação de Regras da Comunidade, para a remoção de “Facebook falso” do ar e do somatório de perfis ativos do site.

1. Bloqueio de contas antes de serem criadas

De acordo com a rede social, é a melhor maneira de combatê-las: impedindo de serem criadas. É detectar e bloquear essas contas antes mesmo de serem criadas, a partir de sinais que indicam, entre outras coisas, se os fakes são criados em massa a partir de um único local, bloqueando certos endereços de IP para que não possam criar perfis.

Note que os dados do relatório sobre fakes não incluem tentativas malsucedidas de criar contas falsas. O Facebook diz ser impossível saber o número de tentativas bloqueadas de criar uma conta. Grupos completos de IP são impedidos até de acessar o site. Ainda sim, a rede social afirma: “podemos estimar que todos os dias evitamos que milhões de contas falsas sejam criadas usando esses sistemas de detecção”.

2. Remoção imediata de novas contas falsas

Os sistemas de detecção também procuram possíveis contas falsas assim que se registram, também no rastro de sinais de comportamento malicioso, como padrões de uso de endereços de e-mail suspeitos, ações suspeitas (de interações na rede social) ou outros sinais anteriormente associados a outras contas falsas que já foram removidas. 

Neste estágio, os usuários desativados entram na métrica de perfis identificados como Facebooks falsos. A plataforma culpa ataques como razão da elevação nos nossos números de perfis fakes identificados, capazes de dominar totalmente os números do relatório. Ainda que, logo desativadas, ofereçam pouco risco para os seus usuários.

No caso de um ataque de spammer, o sistema identifica e remove essas contas falsas. O número total é adicionado ao relatório, mas os perfis foram removidas cedo o suficiente para não serem consideradas ativas, sem impacto na prevalência de fakes.

3. Remoção de contas falsas ativas no Facebook

Aqui estão elas, as contas de Facebook falso que passam pelas duas etapas anteriores. Isso ocorre, segundo a plataforma, porque elas não mostram sinais de serem falsas ou mal-intencionadas. O Facebook, neste caso, dá ao criador da conta o benefício da dúvida até que exiba sinais de atividade maliciosa. Ao reconhecer um comportamento inadequado ou receber denúncias, a plataforma tenta determinar se é fake.

As contas removidas neste estágio também são contabilizadas. Se elas estiverem ativas na plataforma (mais de 30 dias de uso), também entram na métrica de prevalência.

O que é a prevalência?

A prevalência de perfis falsos mede quantas contas ativas falsas existem entre os usuários ativos mensais do Facebook durante um determinado período de tempo.

Das contas que removidas, tanto no momento de registro quanto as que estão na plataforma, mais de 99% delas são remoções proativas e ocorrem antes de denuncias.

E quanto isso representa?

O Facebook acredita que contas falsas prevalentes representavam aproximadamente 5% dos usuários ativos mensais (MAU) durante o primeiro trimestre de 2019 e também o quarto trimestre de 2018. Como o número de usuários ativos no primeiro trimestre de 2019 foi de 2,375 bilhões, 5% equivale a pouco mais de 118 milhões como perfil falso.

Distorção no volume de contas falsas

De acordo com a rede social, o número de contas falsas identificadas é “muito distorcido por ataques simplistas”. Seriam ataques com objetivo de criar milhares de contas de uma só vez e que “não representam danos reais ou até mesmo risco real”.

Se for montado um ataque para criar cem milhões de perfis falsos usando robôs, o Facebook afirma que eles serão removidos assim que forem criados. Porém, serão mais cem milhões de fakes identificados, ainda que ninguém tenha sido exposto a essas contas. Ao fazer isso com rapidez, elas não são consideradas ativas para o mês.

Na análise da empresa, a prevalência é uma maneira melhor de entender os números ao mostrar a porcentagem de contas ativas na plataforma que podem ser falsas.

No entanto, a análise de prevalência de perfis falsos também inclui outros tipos: abusivos e classificados erroneamente. Neste último grupo estão os usuários que criam um perfil para um animal de estimação ao invés de uma página. No todo, apenas as abusivas causam danos. Os cachorrinhos, os gatinhos e afins só estão no lugar errado.

Sendo assim, de acordo com a rede social, deveríamos focar as operações matemáticas nas contas abusivas. Essas sim, capazes de causar danos à plataforma e aos usuários.

Com informações: Facebook

Receba mais sobre Facebook na sua caixa de entrada

E-mail:

* ao se inscrever você aceita a nossa política de privacidade