Instagram usa IA contra assédio e lança filtro de comentários para lives

Novos recursos do Instagram tentam combater bullying na rede social com inteligência artificial e machine learning

há 5 anos e 6 meses • Atualizado há 2 anos e 4 meses

O Instagram lançou nesta semana dois recursos para combater o bullying na rede social. Ambas utilizam inteligência artificial e machine learning para detectar automaticamente fotos ou comentários que possam conter assédio, com o objetivo de proteger especialmente os usuários mais jovens, segundo o aplicativo.

Uma das ferramentas começou a ser liberada na terça-feira (9) e será disponibilizada ao longo das próximas semanas para todos os conteúdos. Ela consiste em uma tecnologia de aprendizagem de máquina e pode “identificar e remover significativamente mais bullying, e é um passo crucial, já que muitas pessoas que sofrem ou notam bullying não denunciam”, de acordo com o Instagram.

O algoritmo analisa tanto a imagem quanto a legenda para detectar assédio. Se o problema for identificado, o conteúdo é enviado para uma equipe de humanos do Instagram, que poderá remover ou não a publicação.

A rede social também aprimorou a detecção de bullying em comentários. O recurso funcionava desde maio nas publicações do feed, na tela Explorar e nas fotos acessadas a partir do seu perfil. A partir desta semana, o filtro será aplicado também nas transmissões ao vivo (lives) em todo o mundo.

O filtro de comentários pode ser ativado ou desativado nas configurações do Instagram. Basta tocar no ícone de perfil, entrar em Configurações e tocar em Controles de comentários. Com o recurso habilitado, os comentários potencialmente ofensivos são ocultados automaticamente pela rede social. Também é possível filtrar palavras específicas e as que são denunciadas com frequência pelos usuários.

Relacionados