O Google Photos apareceu no final de maio com vários atrativos, entre eles, a capacidade de reconhecer o contexto das imagens para categorizá-las. Todo mundo sabe que tecnologias do tipo (ainda) não são perfeitas, mesmo assim, ninguém esperava que a função fosse colocar o Google em uma saia justa: o serviço acabou marcando duas pessoas como gorilas.

google-photos

A falha foi notada por Jacky Alciné, um programador que vive em Nova York. Ao conferir suas fotos no Google Photos, ele percebeu que imagens que o mostravam com uma amiga foram etiquetadas automaticamente pelo serviço como “Gorillas”.

Imediatamente, Alciné manifestou a sua indignação no Twitter. Nos tweets subsequentes, o programador deixou claro que entendeu que o problema foi causado por uma falha (afinal, ele trabalha com desenvolvimento), mas questionou que tipos de imagens o sistema do Google estaria usando como parâmetro de comparação para cair no erro. “Isso poderia ter sido evitado com classificação mais precisa e completa de pessoas negras, especialmente indivíduos com tons de pele mais escuros como eu e a minha amiga”, acrescentou.

Google Photos, y’all fucked up. My friend’s not a gorilla. pic.twitter.com/SMkMCsNVX4

— diri noir avec banan (@jackyalcine) June 29, 2015

O caso, é claro, ganhou repercussão rapidamente. Como é de se esperar, algumas pessoas tentaram levantar um debate racial, afirmando, por exemplo, que esse tipo de problema não acontece com pessoas brancas.

Cerca de uma hora e meia depois do primeiro tweet, o arquiteto chefe do Google+ Yonatan Zunger se desculpou pela falha e pediu autorização a Alciné para uma análise aprofundada de sua conta com o intuito de investigar as causas.

And it’s only photos I have with her it’s doing this with (results truncated b/c personal): pic.twitter.com/h7MTXd3wgo

— diri noir avec banan (@jackyalcine) June 29, 2015

Sobre a discussão levantada, Zunger respondeu que a aprendizagem dos sistemas de inteligência artificial é difícil, explicando na sequência que o Google Photos já cometeu erros com pessoas de pele clara, marcando-as como cães e focas, por exemplo.

A tag “Gorillas” foi removida do banco de dados do Google Photos. Mas o Google sabe que isso não basta. “Há claramente muito trabalho a ser feito com rotulagem automática de imagens e nós estamos estudando como podemos evitar esse tipo de erro no futuro”, disse um porta-voz da companhia.

Com informações: Ars Technica, Yahoo Tech

Leia | Ainda posso recuperar fotos do Orkut?

Relacionados

Escrito por

Emerson Alecrim

Emerson Alecrim

Repórter

Emerson Alecrim cobre tecnologia desde 2001 e entrou para o Tecnoblog em 2013, se especializando na cobertura de temas como hardware, sistemas operacionais e negócios. Formado em ciência da computação, seguiu carreira em comunicação, sempre mantendo a tecnologia como base. Em 2022, foi reconhecido no Prêmio ESET de Segurança em Informação. Em 2023, foi reconhecido no Prêmio Especialistas, em eletroeletrônicos. Participa do Tecnocast, já passou pelo TechTudo e mantém o site Infowester.