A Microsoft confirmou a proibição das forças policiais dos EUA de usarem ferramentas generativas de inteligência artificial para reconhecimento facial baseadas em tecnologias de seu parceiro OpenAI – clientes corporativos podem usá-las na infraestrutura de nuvem Azure.
Fonte da imagem: Tumisu / pixabay.com
Os termos de serviço da plataforma Azure OpenAI Service incluem agora uma linguagem que proíbe mais claramente a sua integração com agências policiais nos Estados Unidos para efeitos de reconhecimento facial, incluindo a integração com modelos de IA existentes e futuros para análise de imagens. Um parágrafo separado do documento proíbe especificamente o uso de “tecnologia de reconhecimento facial em tempo real” em câmeras móveis, incluindo câmeras corporais e câmeras de painel, para tentar identificação pessoal em condições “não controladas”.
A Microsoft atualizou a política uma semana depois que a Axon, fabricante de equipamentos de tecnologia para agências militares e policiais, anunciou um novo sistema de decodificação de áudio de câmera corporal baseado no modelo OpenAI GPT-4. Ativistas de direitos humanos apontaram que pode falhar devido à tendência da IA de ter alucinações e ter preconceito racial. Não está claro se a Axon estava acessando o GPT-4 por meio do serviço Azure OpenAI e, em caso afirmativo, se a atualização da política foi uma resposta a este produto.
A proibição de acesso ao serviço Azure OpenAI aplica-se apenas à polícia dos EUA e não às agências de aplicação da lei de outros países. Também não abrange sistemas de reconhecimento facial que utilizem câmaras fixas em ambientes controlados, como instalações de departamentos. A OpenAI, que anteriormente se recusou a cooperar com as forças armadas, lançou uma série de projetos para o Pentágono, inclusive na área de segurança cibernética, informou a Bloomberg em janeiro. A Microsoft também ofereceu o gerador de imagens OpenAI DALL-E ao Departamento de Defesa dos EUA para desenvolver software para operações militares, apurou o The Intercept. A plataforma Azure OpenAI Service com recursos adicionais foi disponibilizada no pacote Microsoft Azure for Government em fevereiro.