Facebook derruba rede de perfis que usavam fotos geradas por IA

Grupos eram baseados na China e nas Filipinas, e utilizavam contas falsas para espalhar propaganda governamental

há 3 anos e 7 meses • Atualizado há 2 anos e 4 meses

O uso de perfis falsos para promover propaganda governamental continua sendo uma dor de cabeça para o Facebook. Recentemente, a rede social removeu duas redes acusadas de manter tais práticas, com origem na China e nas Filipinas. Os grupos usavam inteligência artificial para gerar fotos de perfil que tentavam enganar a identificação da plataforma.

Para detectar as contas falsas, o Facebook afirma se concentrar o comportamento desses perfis, para além de seu conteúdo.

Grupos que utilizam uma técnica conhecida como GANs (Generative Adversarial Networks) geralmente deixam padrões de anomalias que podem ser facilmente detectados. A prática tem se tornado comum, de acordo com a empresa especializada em análise social Graphika.

Grupo chinês teria realizado atividades relacionadas às eleições dos EUA

O relatório do Facebook revelou que uma pequena parte das atividades realizadas pelo grupo identificado na China tinha como foco as eleições dos Estados Unidos, com ações pró e contra Trump, além de outra com apoio à dupla Biden-Harris. O maior interesse da rede chinesa, porém, teria sido na segurança marítima, com ênfase no Mar da China Meridional.

As páginas geradas pelo grupo reuniram 133 mil seguidores no Facebook, além de 150 seguidores no Instagram. Os investimento em publicidade foram relativamente baixos, apenas US$ 60, pagos em iuanes.

Nas Filipinas, a rede de perfis falsos consistia em vários grupos de atividades conectadas. O Facebook revela que as contas faziam publicações de conteúdo sobre notícias locais, política doméstica, críticas ao comunismo, jovens ativistas, entre outros assuntos.

De acordo com a rede social, as atividades tinham ligação com militares e policiais filipinos. O relatório indica que essa rede gastou cerca de US$ 1.100 com publicidade e conseguiu mais de 276 mil seguidores no Facebook, além de 5.500 seguidores no Instagram.

Com informações: Facebook e TechCrunch