A rede social Twitter divulgou os resultados de um concurso aberto destinado a identificar o sistema de preferências dado pela inteligência artificial na criação de pré-visualizações de imagens que são carregadas pelos utilizadores. A empresa desativou o recurso em março em resposta a reclamações sobre o preconceito da IA contra negros. Depois disso, ela anunciou uma competição para encontrar um bug que levasse a consequências semelhantes.
Theverge.com
A competição confirmou as “descobertas” anteriores. O vencedor descobriu que o algoritmo favorece tons de pele finos, jovens, claros ou quentes, texturas de pele suaves e características estereotipadamente femininas. O segundo e o terceiro lugares foram ocupados por pesquisadores que comprovaram que o sistema é tendencioso contra pessoas de cabelos brancos ou grisalhos (discriminação por idade) e, por fim, “prefere” o inglês ao árabe nas imagens.
Em uma apresentação dos resultados na DEF CON 29, o líder da equipe do Twitter, Rumman Chowdhury, chefe da equipe de ética, transparência e controle sobre algoritmos de aprendizado de máquina, elogiou o trabalho dos participantes para demonstrar o impacto dos algoritmos “tendenciosos” na vida real. Segundo ele, estamos falando não apenas de interesse acadêmico, mas também de quais esquemas funcionam na própria sociedade – os criadores de filtros trabalham a partir de crenças internas e ideias sobre beleza.
Theverge.com
O primeiro prêmio de $ 3.500 foi para Bogdan Kulynych da EPFL Research University na Suíça. Ele usou o programa de IA StyleGAN2 para gerar um grande número de rostos realistas, diferindo na cor da pele, características faciais femininas ou masculinas e a plenitude dos participantes virtuais. Depois disso, ele “alimentou” as imagens para o algoritmo do Twitter. Como resultado, Kulinich chegou à conclusão de que os preconceitos dos algoritmos reforçam os preconceitos da sociedade, literalmente “cortando” a vida daqueles que diferem da “norma” em peso, idade e cor de pele.
Esses “preconceitos” são mais comuns do que se possa imaginar. Outro contribuidor supostamente provou que o algoritmo favorece emoji mais leves. Finalmente, outra descoberta interessante – descobriu-se que o algoritmo do Twitter preferia cortar uma parte de uma imagem com texto em árabe do que com texto em inglês.
Theverge.com
Embora os resultados dos experimentos sejam desanimadores para os defensores dos direitos humanos, eles também demonstram como a sociedade pode ajudar as empresas de tecnologia. A abertura do Twitter contrasta com o comportamento de alguns gigantes da tecnologia. Depois que uma equipe do MIT descobriu tendências semelhantes nos algoritmos da Amazon, a empresa respondeu que a pesquisa era “enganosa” e “falsa”. Mais tarde, a Amazon teve que recuar sob a pressão de argumentos e do hype na web.
De acordo com o juiz do Twitter, Patrick Hall, “preconceitos” semelhantes existem em todos os sistemas de IA, e as empresas precisam trabalhar proativamente para identificá-los. “Se você não está procurando por seus insetos, e os caçadores de insetos não estão procurando por suas falhas, então quem irá encontrar seus insetos? Porque você tem bugs com certeza ”, disse ele.