Giphy reforça regras, mas ainda hospeda GIFs com discursos de ódio e pornografia infantil

Startup de proteção infantil online L1ght encontrou GIFs que incitam estupro, supremacia branca e transtornos alimentares

Por Lucas Lima

há 4 anos e 5 meses • Atualizado há 2 anos e 4 meses

Conteúdo ilícito dentro do Giphy foi reportado ao TechCrunch

Apesar de banir conteúdo ilícito e pregar que é um site “divertido e seguro” para encontrar e criar GIFs, o Giphy ainda hospeda muito conteúdo do qual diz não permitir: pornografia infantil e discurso de ódio. A informação foi obtida pelo TechCrunch a partir de um relatório produzido pela startup israelense de proteção infantil online L1ght.

Dentre o conteúdo tóxico que ainda está no site, os GIFs incitam abuso infantil, estupro, supremacia branca, discurso de ódio e imagens que estimulam a perda de peso e transtornos alimentares.

Ainda que a plataforma faça o bloqueio de determinadas palavras-chave e não exiba tais resultados de pesquisa, mecanismos como Google e Bing ainda armazenam essas imagens relacionadas aos termos em cache.

Nos testes da L1ght, uma busca por material ilícito resultou em 195 imagens já na primeira página de resultado. A partir disso, a startup seguiu as hashtags associadas a esses GIFs até encontrar uma rede de material tóxico. Determinadas hashtags, que muitas vezes eram sobre sites com esse conteúdo, serviam para que usuários escapassem da detecção automática do Giphy e continuassem encontrando o material na plataforma.

O TechCrunch não divulgou as palavras-chave usadas na busca (até porque, né?), mas disse ter repassado as informações ao Centro Nacional de Crianças Desaparecidas e Exploradas, uma organização sem fins lucrativos do Congresso americano que tenta combater a exploração infantil.

O que diz o Giphy

O chefe de audiência do Giphy, Simon Gibson, disse ao TechCrunch que, quando a empresa identifica um conteúdo tóxico, trabalha para removê-lo e denunciá-lo junto às autoridades, além de empregar protocolos rígidos de moderação.

Segundo Gibson, para que um conteúdo esteja indexado nas páginas do Giphy, é preciso que o usuário faça uma solicitação à empresa. Essa imagem passa por uma combinação de verificação computacional e humana.

Caso ainda haja dúvida quanto ao conteúdo ser nocivo ou não, os moderadores encaminham o material para outra equipe interna de confiança e segurança, que fará uma revisão adicional.

Não é a primeira vez que o Giphy enfrenta um transtorno como este: o Instagram e o Snapchat chegaram a remover os GIFs da plataforma por conter material de injúria racial indexado às pesquisas. Na época, a empresa disse que o conteúdo passou pelo filtro de moderação da plataforma e aplicou uma correção.

Com informações: TechCrunch.