Viés racial e de gênero encontrados no algoritmo de miniatura do Twitter

Os desenvolvedores do Twitter estudaram um algoritmo para criar automaticamente visualizações de imagens que são enviadas para a rede social pelos usuários. Como resultado, verificou-se que essa ferramenta no processo de trabalho deixa os brancos na foto com mais frequência do que os negros e as mulheres com mais frequência do que os homens.

Imagem: Getty Images

O Twitter também anunciou que está iniciando um processo de eliminação do antigo sistema de criação de imagens de visualização que é automaticamente aplicado às imagens nas postagens dos usuários. De acordo com relatos, um algoritmo de corte de imagem mais avançado já começou a ser implementado gradualmente para usuários do Twitter que interagem com a plataforma usando dispositivos móveis.

A fonte observa que o algoritmo antigo tomava cuidado especial para centralizar a visão de imagens muito altas ou largas de forma a enquadrar o rosto das pessoas ou algum outro detalhe interessante capturado na imagem. No entanto, esta função nem sempre funcionou corretamente, e é por isso que em alguns casos a visualização não teve êxito.

Os preconceitos raciais do algoritmo de recorte de fotos do Twitter foram notados por usuários de redes sociais no ano passado. Os desenvolvedores responderam rapidamente às suas mensagens e prometeram trabalhar para pesquisar esse problema. Como resultado, descobriu-se que o algoritmo antigo tinha 8% mais probabilidade de deixar os homens no quadro, 4% mais frequência do que brancos de ambos os sexos em comparação com negros, 7% mais frequência do que mulheres brancas em comparação com negros e 2 % mais frequentemente do que homens brancos em comparação com negros. …

«Tentamos encontrar uma compensação entre a velocidade de processamento e a consistência do corte automático com os riscos potenciais que foram identificados no estudo. Uma de nossas descobertas é que nem todos os usuários do Twitter são candidatos adequados para processamento pelo algoritmo, caso em que é melhor para um ser humano decidir como cortar uma imagem ”, disse Rumman Chowdhury, chefe de desenvolvimento de software do Twitter. (Rumman Chowdhury). Ela também lembrou que o Twitter recentemente lançou um recurso de visualização realista para evitar o enquadramento de fotos com proporção de 16: 9 e 4: 3.