Um dos vídeos no perfil do The Daily Mail no Facebook, que apresentava homens negros, foi automaticamente sinalizado como um vídeo de primatas. Os usuários perceberam que a rede social se oferece para “continuar assistindo a vídeos sobre primatas”, o que levou a empresa a investigar e interromper o algoritmo correspondente. O Facebook já se desculpou, chamando o incidente de “um erro inaceitável”.
Imagem: Jim Wilson / The New York Times
Este é um vídeo que apareceu no perfil do The Daily Mail em 27 de junho. Mostra escaramuças entre homens negros e civis e policiais brancos. O vídeo não tem nada a ver com primatas. Uma investigação foi realizada pela empresa e o algoritmo de IA que deu recomendações foi suspenso.
«Como dissemos, enquanto trabalhamos para melhorar a inteligência artificial, sabemos que ela é imperfeita e ainda temos muito trabalho a fazer. Pedimos desculpas a qualquer um que possa ter visto essas recomendações ofensivas “, – comentou sobre a questão da porta-voz do Facebook Dani Lever (Dani Lever).
Imagem: The New York Times
Observe que o Google, Amazon e outros gigantes da tecnologia estão sob escrutínio há anos devido ao preconceito nos algoritmos que eles criam, especialmente em questões raciais. A pesquisa mostrou que a tecnologia de reconhecimento facial é tendenciosa para os negros e tem dificuldade em identificá-los, o que levou a vários incidentes em que negros foram discriminados ou presos desnecessariamente.
Casos como este já aconteceram antes. Por exemplo, em 2015, o Google Fotos sinalizou várias fotos de negros como imagens de “gorila”, pelo que o Google teve que se desculpar. Ao mesmo tempo, foi anunciado que a empresa trabalharia para solucionar o problema imediatamente. Mais de dois anos depois, foi determinado que o Google havia resolvido o problema censurando a palavra “gorila” nas consultas de pesquisa, bem como bloqueando parcialmente as palavras “chimpanzé” e “macaco”.