O algoritmo de IA do Facebook confunde homens negros com primatas

Um dos vídeos no perfil do The Daily Mail no Facebook, que apresentava homens negros, foi automaticamente sinalizado como um vídeo de primatas. Os usuários perceberam que a rede social se oferece para “continuar assistindo a vídeos sobre primatas”, o que levou a empresa a investigar e interromper o algoritmo correspondente. O Facebook já se desculpou, chamando o incidente de “um erro inaceitável”.

Imagem: Jim Wilson / The New York Times

Este é um vídeo que apareceu no perfil do The Daily Mail em 27 de junho. Mostra escaramuças entre homens negros e civis e policiais brancos. O vídeo não tem nada a ver com primatas. Uma investigação foi realizada pela empresa e o algoritmo de IA que deu recomendações foi suspenso.

«Como dissemos, enquanto trabalhamos para melhorar a inteligência artificial, sabemos que ela é imperfeita e ainda temos muito trabalho a fazer. Pedimos desculpas a qualquer um que possa ter visto essas recomendações ofensivas “, – comentou sobre a questão da porta-voz do Facebook Dani Lever (Dani Lever).

Imagem: The New York Times

Observe que o Google, Amazon e outros gigantes da tecnologia estão sob escrutínio há anos devido ao preconceito nos algoritmos que eles criam, especialmente em questões raciais. A pesquisa mostrou que a tecnologia de reconhecimento facial é tendenciosa para os negros e tem dificuldade em identificá-los, o que levou a vários incidentes em que negros foram discriminados ou presos desnecessariamente.

Casos como este já aconteceram antes. Por exemplo, em 2015, o Google Fotos sinalizou várias fotos de negros como imagens de “gorila”, pelo que o Google teve que se desculpar. Ao mesmo tempo, foi anunciado que a empresa trabalharia para solucionar o problema imediatamente. Mais de dois anos depois, foi determinado que o Google havia resolvido o problema censurando a palavra “gorila” nas consultas de pesquisa, bem como bloqueando parcialmente as palavras “chimpanzé” e “macaco”.