Falha fez Google Photos marcar duas pessoas como “gorilas”

O Google Photos apareceu no final de maio com vários atrativos, entre eles, a capacidade de reconhecer o contexto das imagens para categorizá-las. Todo mundo sabe que tecnologias do tipo (ainda) não são perfeitas, mesmo assim, ninguém esperava que a função fosse colocar o Google em uma saia justa: o serviço acabou marcando duas pessoas como gorilas.

A falha foi notada por Jacky Alciné, um programador que vive em Nova York. Ao conferir suas fotos no Google Photos, ele percebeu que imagens que o mostravam com uma amiga foram etiquetadas automaticamente pelo serviço como “Gorillas”.

Imediatamente, Alciné manifestou a sua indignação no Twitter. Nos tweets subsequentes, o programador deixou claro que entendeu que o problema foi causado por uma falha (afinal, ele trabalha com desenvolvimento), mas questionou que tipos de imagens o sistema do Google estaria usando como parâmetro de comparação para cair no erro. “Isso poderia ter sido evitado com classificação mais precisa e completa de pessoas negras, especialmente indivíduos com tons de pele mais escuros como eu e a minha amiga”, acrescentou.

Google Photos, y’all fucked up. My friend’s not a gorilla. pic.twitter.com/SMkMCsNVX4

— diri noir avec banan (@jackyalcine) June 29, 2015

O caso, é claro, ganhou repercussão rapidamente. Como é de se esperar, algumas pessoas tentaram levantar um debate racial, afirmando, por exemplo, que esse tipo de problema não acontece com pessoas brancas.

Cerca de uma hora e meia depois do primeiro tweet, o arquiteto chefe do Google+ Yonatan Zunger se desculpou pela falha e pediu autorização a Alciné para uma análise aprofundada de sua conta com o intuito de investigar as causas.

And it’s only photos I have with her it’s doing this with (results truncated b/c personal): pic.twitter.com/h7MTXd3wgo

— diri noir avec banan (@jackyalcine) June 29, 2015

Sobre a discussão levantada, Zunger respondeu que a aprendizagem dos sistemas de inteligência artificial é difícil, explicando na sequência que o Google Photos já cometeu erros com pessoas de pele clara, marcando-as como cães e focas, por exemplo.

A tag “Gorillas” foi removida do banco de dados do Google Photos. Mas o Google sabe que isso não basta. “Há claramente muito trabalho a ser feito com rotulagem automática de imagens e nós estamos estudando como podemos evitar esse tipo de erro no futuro”, disse um porta-voz da companhia.

Com informações: Ars Technica, Yahoo Tech

Receba mais notícias do Tecnoblog na sua caixa de entrada

E-mail:

* ao se inscrever você aceita a nossa política de privacidade