Carros autônomos têm dificuldade em reconhecer crianças e pedestres negros

Os desenvolvedores de sistemas de direção autônoma afirmam que seu software reconhece igualmente bem adultos de pele clara, crianças e pedestres de pele escura. No entanto, um estudo realizado por cientistas do King’s College London mostrou que isso não é inteiramente verdade.

Fonte da imagem: metamorworks/Shutterstock

Os pesquisadores testaram oito sistemas de detecção de pedestres baseados em redes neurais. Durante os testes, foram utilizadas mais de 8 mil imagens de pedestres. Descobriu-se que os sistemas de detecção de pedestres são 20% melhores no reconhecimento de adultos do que de crianças. Além disso, o software é 7,5% mais preciso na identificação de pessoas de pele clara do que pedestres de pele escura. Segundo os investigadores, o problema de reconhecer pessoas de pele escura é que os sistemas de condução autónoma são predominantemente treinados em imagens de pessoas de pele clara.

«Embora o impacto dos sistemas injustos de IA esteja bem documentado, desde algoritmos de IA que favorecem candidatos do sexo masculino na contratação até algoritmos de reconhecimento facial que são menos precisos na identificação de mulheres negras do que de homens brancos, o perigo que os carros autónomos podem representar é muito grande. Anteriormente, às minorias podiam ser negados serviços vitais, mas agora podem enfrentar ferimentos graves”, disse o Dr. Jie Zhang, um dos autores do estudo.

Os cientistas também descobriram que a precisão do reconhecimento de pessoas de pele escura é bastante reduzida em condições de pouca luz e baixo contraste. Isto pode levar a situações perigosas ao usar sistemas de detecção de pedestres baseados em IA à noite. As montadoras não divulgam detalhes sobre o software utilizado para reconhecer pedestres. No entanto, os pesquisadores argumentam que esses algoritmos são normalmente construídos sobre os mesmos sistemas de código aberto que foram testados durante o estudo.