Twitter investiga algoritmo por priorizar rostos brancos em fotos
O Twitter afirma que algoritmo usado para definir a prévia das imagens busca contraste, mas prometeu realizar mais análises
O tratamento diferente em fotos com pessoas brancas e negras fez o algoritmo do Twitter ser questionado. Desde sexta-feira (18), testes feitos por vários usuários indicaram que a rede social pode priorizar rostos brancos nas prévias das imagens, mesmo que os rostos negros estejam em uma posição mais favorecida no arquivo. Questionada, a plataforma prometeu investigar a situação.
A discussão sobre viés racial em algoritmos ganhou atenção após Colin Madland relatar no Twitter que o Zoom não exibia o rosto de um colega negro que escolheu um plano de fundo virtual durante uma chamada de vídeo. Madland compartilhou uma foto da tela do Zoom e, logo depois, percebeu que o aplicativo do Twitter priorizava seu rosto, de um homem branco, em vez de seu colega na prévia do tweet, mesmo que a imagem fosse invertida.
— Colin Madland 🇺🇦 (@colinmadland) September 19, 2020
No sábado (19), Tony Arcieri testou como a rede social reagiria às fotos de Barack Obama, primeiro negro eleito presidente dos Estados Unidos, e Mitch McConnell, branco eleito senador por Kentucky. Arcieri usou imagens verticais com uma um rosto acima do outro, ora com o topo mostrando a de Obama, ora a de McConnell. A comparação mostrou que a plataforma priorizou a foto de McConnell nos dois casos.
"It's the red tie! Clearly the algorithm has a preference for red ties!"
Well let's see… pic.twitter.com/l7qySd5sRW
— Tony "Abolish ICE" Arcieri 🦀🌹 (@bascule) September 19, 2020
O usuário cogitou que o algoritmo priorizou McConnell por conta de detalhes como a cor da gravata, e editou as fotos. Ainda assim, a imagem do senador ganhou destaque. O rosto de Obama só apareceu na prévia quando as cores da foto foram invertidas, mudando fatores considerados pelo algoritmo. Outro usuário apontou que a exibição muda de acordo com o app e indicou que o TweetDeck parecia não ter o problema de viés racial.
Em resposta a Arcieri, o Twitter garantiu que fez testes antes de implantar o algoritmo e que não encontrou evidências de viés racial ou de gênero. “Mas está claro que temos mais análises para fazer. Continuaremos a compartilhar o que aprendemos, quais ações tomamos e abriremos o código para que outros possam revisar e replicar”, afirmou a plataforma no perfil de sua equipe de comunicação.
Twitter diz que algoritmo busca contraste
O Twitter adotou em 2018 uma rede neural para definir o que é destacado na prévia das imagens. A plataforma afirmou, à época, que a inteligência artificial recortaria fotos no ponto que as pessoas mais querem ver. Para isso, o sistema faria o chamado “recorte de imagem através de saliência”, isto é, buscaria regiões que contam com mais contraste para o restante do arquivo.
É o que apontou o chefe de Design do Twitter, Dantley Davis, em resposta a Madland. Segundo ele, “a inteligência artificial está buscando por contraste como entrada”. Na foto da conversa no Zoom, o contraste encontrado pelo algoritmo teria sido a barba do usuário. Quando Davis publicou a mesma imagem com a barba de Madland desfocada, a prévia do Twitter mostrou o homem negro.
“Não estou dizendo que isso está certo, apenas explicando o que está acontecendo”, continuou Davis, que afirmou ser favorável a parar de cortar fotos por meio da rede neural. Em resposta a outro usuário, o executivo relatou estar tão irritado com o problema como qualquer outra pessoa. “No entanto, estou em posição de consertar isso e o farei”, afirmou.
Escrito por