Os EUA proibiram as autoridades de usar IA que prejudica os americanos

Há cinco meses, o presidente dos EUA, Joe Biden, assinou um decreto que regulamenta o desenvolvimento e implementação de IA em instituições governamentais. Hoje, portanto, o Gabinete de Gestão e Orçamento dos EUA revelou políticas destinadas a regular a utilização da IA ​​pelas agências federais e pelo governo. As três principais prioridades são a segurança dos cidadãos, a transparência na utilização de redes neurais e a supervisão interna dos sistemas de IA.

Fonte da imagem: Pixabay

«“Acredito que todos os líderes do governo, da sociedade civil e do setor privado têm o dever moral, ético e social de garantir que a inteligência artificial seja implementada e desenvolvida de uma forma que proteja o público de danos potenciais, garantindo ao mesmo tempo que todos possam desfrutar dos seus benefícios. ”, disse a vice-presidente Kamala Harris durante uma conferência de imprensa. Ela também anunciou três requisitos obrigatórios para o uso de IA.

Em primeiro lugar, as agências federais terão até 1 de dezembro de 2024 para garantir que quaisquer ferramentas de IA que utilizem “não comprometam os direitos e a segurança do povo americano”. Caso contrário, a agência teria de parar de usar o produto de IA, a menos que os seus líderes pudessem justificar que a falha teria um impacto “inaceitável” nas operações críticas. Considera-se que um sistema de IA tem um impacto na segurança se for “utilizado ou se espera que seja utilizado em ambientes do mundo real para controlar ou influenciar significativamente os resultados de certas ações e decisões”. Esses incluem:

• Manter a integridade das eleições e da infraestrutura eleitoral;
• Controle de funções críticas de segurança de infraestrutura;
• Operação de veículos autônomos;
• Controle dos movimentos físicos dos robôs.

O segundo requisito exige que as agências federais sejam transparentes ao usar sistemas de IA. As agências governamentais dos EUA são obrigadas a disponibilizar anualmente ao público uma lista dos seus sistemas de IA, uma avaliação dos riscos que esses sistemas podem representar e como gerem esses riscos. As agências terão de divulgar os nomes dos modelos de IA, as suas versões e os conjuntos de dados utilizados para treinar a IA, a menos que isso prejudique a sociedade ou as atividades governamentais. Se casos específicos de uso de IA não puderem ser divulgados devido a questões de privacidade, será necessário fornecer métricas agregadas.

O terceiro requisito para as agências federais é a necessidade de supervisão interna do uso da IA. Isso envolve cada departamento nomeando um especialista chefe em IA que será responsável pelo uso da rede neural pela agência. Muitas agências também serão obrigadas a estabelecer conselhos de governança de IA dedicados até 27 de maio de 2024.

As agências federais terão de eliminar gradualmente os sistemas de IA que infringem os direitos dos americanos e “criar proteções adequadas e mecanismos de supervisão que permitam a utilização de IA generativa sem criar riscos indevidos”. A adoção de novas políticas de IA poderá ter um impacto significativo nos procedimentos já existentes, como o reconhecimento facial ou o diagnóstico médico. A política visa garantir um controlo rigoroso sobre a utilização da IA ​​nas seguintes áreas da vida:

• Policiamento preditivo;
• Monitoramento de redes sociais para agências de aplicação da lei;
• Identificação de plágio em instituições de ensino;
• Aplicação da Primeira Emenda à Constituição dos EUA;
• Detectar ou medir emoções e pensamentos humanos;
• Triagem pré-emprego;
• Reproduzir a imagem ou voz de uma pessoa sem consentimento explícito.

Atualmente, as agências governamentais estão usando ativamente sistemas de IA. A Administração Nacional Oceânica e Atmosférica está a trabalhar em modelos de IA para ajudar a prever condições meteorológicas extremas, inundações e incêndios florestais com maior precisão, e a Administração Federal de Aviação está a utilizar um sistema para ajudar a gerir o tráfego aéreo nas principais áreas metropolitanas.

«A IA representa não apenas um risco, mas também uma enorme oportunidade para melhorar os serviços públicos e fazer progressos em questões sociais, como o combate às alterações climáticas, a melhoria da saúde pública e a promoção de oportunidades económicas justas, disse Shalanda Young, diretora do Gabinete de Gestão e Orçamento dos EUA. . ). “Quando usada e monitorada de forma responsável, a IA pode ajudar as agências a reduzir os tempos de espera, melhorar a precisão e expandir o acesso a serviços governamentais essenciais.”