Google Maps combate uso de avaliações para fazer “cancelamento” na internet

Google explica novas políticas para moderação de avaliações negativas direcionadas; sistema de IA promete identificar comportamentos suspeitos

Por Ana Marques

há 2 anos e 2 meses

O Google apresentou um conjunto de medidas para evitar o bombardeio de críticas negativas direcionadas em seu aplicativo de Mapas. A intenção da empresa é impedir que usuários com má-fé usem as avaliações do aplicativo para fazer o “cancelamento” de produtos, serviços ou empresas cadastrados na plataforma.

As avaliações do Google Maps permitem que uma pessoa demonstre a satisfação em relação a um estabelecimento — e elas podem ser decisivas para que outros decidam se vale a pena conhecer o local. Para isso, o Google conta com a contribuição de seus usuários: ninguém melhor do que eles para avaliar se um restaurante, bar ou loja é digno de uma boa nota. São milhões de avaliações publicadas por dia, segundo a companhia.

Mas a big tech também entende que o sistema pode ser usado de forma indevida, com o único objetivo de prejudicar o negócio alheio. Diante desse cenário, o Google está atualizando suas políticas de avaliações no Maps para garantir que elas “sejam baseadas em experiências do mundo real”.

“À medida que o mundo evolui, também evoluem nossas políticas e proteções. Isso nos ajuda a proteger lugares e empresas de conteúdo violador e fora do tópico quando houver a possibilidade de serem alvo de abuso. Por exemplo, quando governos e empresas começaram a exigir comprovação da vacina contra a COVID-19 antes de entrar em determinados lugares, implementamos proteções extras para remover avaliações do Google que criticam uma empresa por suas políticas de saúde e segurança ou por cumprir um mandato de vacina.”
Ian Leader, gerente de produto no grupo de conteúdo gerado por usuários no Google Maps

Treinamento para humanos e máquinas

O Google explica, em seu blog oficial, que qualquer avaliação enviada pelo Maps será enviada ao sistema de moderação da plataforma. Ele é híbrido — composto por humanos e máquinas.

Com inteligência artificial, a empresa monta sua linha de frente. Isso porque as máquinas são boas em identificar padrões. Desse modo, o Google afirma que “a grande maioria do conteúdo falso e fraudulento é removida antes que alguém realmente o veja”.

As análises feitas por software identificam se o conteúdo tem ofensas ou desvia do tópico proposto, se a conta responsável é confiável (ou tem histórico suspeito) e se há alguma anomalia direcionada ao estabelecimento em si (como uma enxurrada de avaliações em um curto espaço de tempo ou uma exposição na mídia que motivaria comentários fraudulentos).

Já os operadores humanos são responsáveis por executar testes de qualidade e treinar os algoritmos para remover modelos potencialmente preconceituosos. Esse é um trabalho ainda mais delicado, já que exige um processo minucioso que considere inúmeros contextos de uso de uma palavra para evitar bloqueios indevidos ou que propaguem algum tipo de viés indesejado — é também algo que está em constante evolução.

O Google explica ainda que após a publicação de uma avaliação, os sistemas continuam analisando o conteúdo para identificar padrões questionáveis.

O tal do senso crítico

Como já publicamos em outro artigo no Tecnoblog, todo esse processo de aprendizado de máquina é extremamente complicado, do ponto de vista técnico — se para humanos, já é difícil ter senso crítico apurado, imagine tentar calcular algo tão subjetivo e transmitir essa habilidade a máquinas.

Ao mesmo tempo, abrir mão desse filtro feito por softwares é inviável frente à quantidade de pessoas que utilizam serviços como o Google Maps. Por isso, apesar do desafio, é bom ver o Google investindo ativamente em atualizações e melhorias.

Se a sociedade vive mudando, é importante que as regras ensinadas aos algoritmos acompanhem também esta evolução — e compreendam fenômenos relacionados a cada época (como a cultura do cancelamento, nesse caso) — para fornecer a melhor experiência aos usuários.