O sistema de reconhecimento facial levou à segunda prisão ilegal em Detroit

A falsa coincidência no sistema de reconhecimento facial levou à prisão de outra pessoa sem complicações. De acordo com a Detroit Free Press, a polícia da cidade prendeu um homem por supostamente entrar em um carro, pegar o telefone e deixá-lo cair, quebrando o caso e danificando a tela.

KENGKAT via Getty Images

O sistema de reconhecimento de rosto marcou Michael Oliver como suspeito, e a vítima o apontou entre fotografias de pessoas que pareciam suspeitas. Oliver foi acusado de um crime relacionado ao incidente de maio de 2019. Ele disse que não havia cometido um crime, e as evidências confirmaram suas palavras.

O criminoso que foi gravado no telefone não se parece com Oliver. Primeiro, ele tem tatuagens nas mãos, mas a pessoa no vídeo não as possui. Quando o advogado de Oliver trouxe essa e outras evidências à vítima e ao promotor assistente, eles concordaram que o acusado não foi identificado corretamente. O juiz mais tarde encerrou o caso.

A tecnologia de reconhecimento de rosto foi usada no caso de Oliver antes da entrada em vigor das novas regras. A polícia de Detroit agora só pode usar a tecnologia para investigar crimes violentos. O procurador-geral do Condado de Wayne também analisará os casos que usam a tecnologia de reconhecimento de rosto.

Este não é o único caso em que policiais de Detroit prendem alguém ilegalmente após uma coincidência equivocada. Em um dos casos de destaque no início deste ano, eles detiveram Robert Williams por quase 30 horas por um crime que ele não cometeu. Até o momento, são dois casos de prisões ilegais associadas a falsas coincidências no sistema de reconhecimento facial nos Estados Unidos.

Curiosamente, Oliver e Williams são negros. Estudos mostram que as tecnologias de reconhecimento facial geralmente funcionam pior no caso de pessoas negras. Muitos ativistas de direitos humanos insistem que a polícia de Detroit não teve novos derretimentos suficientes e é necessário interromper completamente o uso dessa tecnologia pelas agências policiais até que um mecanismo seja desenvolvido para minimizar os danos causados ​​pelo uso.

Algumas empresas de tecnologia que trabalharam em sistemas de reconhecimento de rosto redefiniram sua posição sobre esse assunto. A IBM disse que não desenvolverá mais o reconhecimento de face “de uso geral” devido a questões de direitos humanos. A Amazon suspendeu a interação com a polícia como parte do Rekognition. E a Microsoft prometeu não vender sua tecnologia de reconhecimento facial aos departamentos de polícia até que apareçam regras federais “baseadas em direitos humanos”.