Um estudo da Universidade de Stanford revelou que as ferramentas de inteligência artificial utilizadas por grandes empregadores para recrutamento excluíam repetidamente os mesmos candidatos, afetando desproporcionalmente os afro-americanos e os asiático-americanos.
Fonte da imagem: Oluwatobi Fasipe / unsplash.com
Os autores do estudo examinaram 4 milhões de candidaturas de 156 empregadores que utilizavam a plataforma Pymetrics, a qual avalia candidatos com base em jogos online, e encontraram evidências de “falhas sistêmicas” relacionadas aos seus algoritmos. Para ter quase certeza de receber pelo menos uma recomendação para avançar para a próxima etapa do processo seletivo, os candidatos precisam se inscrever em pelo menos 25 vagas. Os testes gamificados tornaram-se especialmente populares entre grandes empresas, que recorrem a empresas como a Pymetrics ou a HireVue, que analisam um grande número de candidaturas recebidas. No entanto, os candidatos reclamam que passam horas fazendo os testes com pouca chance de sua candidatura sequer ser considerada por um recrutador.
Pesquisadores de Stanford analisaram 4 milhões de candidaturas a vagas de emprego enviadas pela Pymetrics entre dezembro de 2018 e dezembro de 2022. A amostra incluiu 156 empregadores, a maioria com faturamento anual de US$ 5 bilhões ou mais. Os resultados do estudo revelaram “disparidades raciais claras” — uma em cada dez vagas no conjunto de dados sofreu um “impacto negativo” contra candidatos negros; em um em cada 20 casos, candidatos de ascendência asiática sofreram o mesmo impacto. Também foi constatado que diferentes empregadores utilizavam os mesmos modelos algorítmicos para algumas vagas — 42 modelos desse tipo foram identificados. Isso significa que candidatos rejeitados por uma empresa tinham alta probabilidade de serem rejeitados por outras. Por outro lado, isso afetou apenas uma pequena proporção dos candidatos: 4% dos candidatos que se inscreveram para 10 vagasTodas as vagas receberam recomendações de rejeição — uma taxa maior do que a esperada em uma amostra aleatória.
Os algoritmos usados pela Pymetrics levam em consideração qualidades como propensão ao risco, velocidade de reação, confiança e preocupação com os outros. Os candidatos cujas pontuações foram mais próximas às dos melhores desempenhos foram recomendados a prosseguir no processo seletivo, enquanto os demais foram rejeitados. Os pesquisadores alertaram que as conclusões do estudo podem não se aplicar a todos os sistemas de seleção algorítmica — a abordagem gamificada da Pymetrics pode diferir dos métodos de análise de currículos.