Twitter investiga algoritmo por priorizar rostos brancos em fotos

O Twitter afirma que algoritmo usado para definir a prévia das imagens busca contraste, mas prometeu realizar mais análises

Victor Hugo Silva
Por
• Atualizado há 2 anos e 10 meses
Twitter no iPhone (imagem: André Fogaça/Tecnoblog)

O tratamento diferente em fotos com pessoas brancas e negras fez o algoritmo do Twitter ser questionado. Desde sexta-feira (18), testes feitos por vários usuários indicaram que a rede social pode priorizar rostos brancos nas prévias das imagens, mesmo que os rostos negros estejam em uma posição mais favorecida no arquivo. Questionada, a plataforma prometeu investigar a situação.

A discussão sobre viés racial em algoritmos ganhou atenção após Colin Madland relatar no Twitter que o Zoom não exibia o rosto de um colega negro que escolheu um plano de fundo virtual durante uma chamada de vídeo. Madland compartilhou uma foto da tela do Zoom e, logo depois, percebeu que o aplicativo do Twitter priorizava seu rosto, de um homem branco, em vez de seu colega na prévia do tweet, mesmo que a imagem fosse invertida.

No sábado (19), Tony Arcieri testou como a rede social reagiria às fotos de Barack Obama, primeiro negro eleito presidente dos Estados Unidos, e Mitch McConnell, branco eleito senador por Kentucky. Arcieri usou imagens verticais com uma um rosto acima do outro, ora com o topo mostrando a de Obama, ora a de McConnell. A comparação mostrou que a plataforma priorizou a foto de McConnell nos dois casos.

O usuário cogitou que o algoritmo priorizou McConnell por conta de detalhes como a cor da gravata, e editou as fotos. Ainda assim, a imagem do senador ganhou destaque. O rosto de Obama só apareceu na prévia quando as cores da foto foram invertidas, mudando fatores considerados pelo algoritmo. Outro usuário apontou que a exibição muda de acordo com o app e indicou que o TweetDeck parecia não ter o problema de viés racial.

Em resposta a Arcieri, o Twitter garantiu que fez testes antes de implantar o algoritmo e que não encontrou evidências de viés racial ou de gênero. “Mas está claro que temos mais análises para fazer. Continuaremos a compartilhar o que aprendemos, quais ações tomamos e abriremos o código para que outros possam revisar e replicar”, afirmou a plataforma no perfil de sua equipe de comunicação.

Twitter diz que algoritmo busca contraste

O Twitter adotou em 2018 uma rede neural para definir o que é destacado na prévia das imagens. A plataforma afirmou, à época, que a inteligência artificial recortaria fotos no ponto que as pessoas mais querem ver. Para isso, o sistema faria o chamado “recorte de imagem através de saliência”, isto é, buscaria regiões que contam com mais contraste para o restante do arquivo.

É o que apontou o chefe de Design do Twitter, Dantley Davis, em resposta a Madland. Segundo ele, “a inteligência artificial está buscando por contraste como entrada”. Na foto da conversa no Zoom, o contraste encontrado pelo algoritmo teria sido a barba do usuário. Quando Davis publicou a mesma imagem com a barba de Madland desfocada, a prévia do Twitter mostrou o homem negro.

“Não estou dizendo que isso está certo, apenas explicando o que está acontecendo”, continuou Davis, que afirmou ser favorável a parar de cortar fotos por meio da rede neural. Em resposta a outro usuário, o executivo relatou estar tão irritado com o problema como qualquer outra pessoa. “No entanto, estou em posição de consertar isso e o farei”, afirmou.

Com informações: Engadget, Mashable.

Relacionados

Escrito por

Victor Hugo Silva

Victor Hugo Silva

Ex-autor

Victor Hugo Silva é formado em jornalismo, mas começou sua carreira em tecnologia como desenvolvedor front-end, fazendo programação de sites institucionais. Neste escopo, adquiriu conhecimento em HTML, CSS, PHP e MySQL. Como repórter, tem passagem pelo iG e pelo G1, o portal de notícias da Globo. No Tecnoblog, foi autor, escrevendo sobre eletrônicos, redes sociais e negócios, entre 2018 e 2021.

Temas populares