A Microsoft, a xAI e o Google concordaram em submeter seus modelos de IA às autoridades americanas para análises de segurança.

A Microsoft, o Google e a xAI de Elon Musk concordaram em fornecer ao governo dos EUA acesso antecipado a novos modelos de inteligência artificial antes de seu lançamento público, para que especialistas do governo possam analisar os sistemas em busca de ameaças à segurança nacional.

Fonte da imagem: Mohamed Nohassi / unsplash.com

O Centro de Padrões e Inovação em IA (CAISI) do Departamento de Comércio anunciou que, como parte de um acordo com desenvolvedores, especialistas do departamento avaliarão modelos avançados antes de sua ampla implementação e conduzirão pesquisas sobre suas capacidades e riscos de segurança. Novos modelos de IA, incluindo o Anthropic Mythos, geraram entusiasmo em todo o mundo nas últimas semanas, inclusive entre autoridades e empresas americanas, já que esses sistemas são capazes de aumentar significativamente a eficácia de ataques de hackers. A Anthropic, que está tentando resolver uma disputa com o Pentágono, não foi mencionada na declaração do governo.

O CAISI é o principal centro de testes do governo para modelos de IA. Até o momento, avaliou mais de 40 sistemas, incluindo plataformas avançadas ainda não amplamente disponíveis. Os desenvolvedores costumam submeter versões de seus modelos com mecanismos de segurança simplificados ao departamento para que os especialistas do centro possam estudar os riscos à segurança nacional.

Na semana passada, o Pentágono anunciou que havia chegado a acordos com sete desenvolvedores de IA para implementar seus modelos avançados em redes classificadas do Departamento de Defesa. O Departamento está atualmente buscando expandir seu leque de fornecedores de IA dentro das forças armadas. Microsoft, Google e xAI ainda não se pronunciaram.