OpenAI e Anthropic fornecerão ao governo dos EUA acesso aos seus mais recentes modelos de linguagem de inteligência artificial antes do lançamento público, “para melhorar sua segurança”, escreve The Verge. Por outras palavras, as autoridades dos EUA verificarão se é seguro lançar novos modelos de IA no mundo.
Fonte da imagem: Andrew Neel/unsplash.com
Ambas as empresas assinaram um memorando de entendimento com o Instituto Americano de Segurança de IA, sob o qual se comprometem a disponibilizar modelos de IA antes e depois do seu lançamento público. A medida permitirá esforços conjuntos para realizar avaliações de riscos de segurança e resolver problemas potenciais, disse o departamento. A agência dos EUA acrescentou que o AI Safety Institute do Reino Unido também estará envolvido neste trabalho.
De acordo com The Verge, esta semana os legisladores da Califórnia aprovaram a Lei de Inovação em Inteligência Artificial Avançada Segura e Confiável. Esta lei exige que as empresas de IA na Califórnia tomem certas precauções antes de treinar modelos avançados de inteligência artificial. Tais medidas, em particular, incluem a capacidade de desativar rápida e completamente um modelo de IA, garantindo que os modelos de IA sejam protegidos de “modificações inseguras após o treinamento” e avaliando os riscos potenciais do uso de IA e seus componentes para “causar danos críticos”.
O documento não encontrou apoio de empresas envolvidas em tecnologias de IA. OpenAI e Anthropic se opuseram à sua adoção, observando que a nova lei poderia impactar negativamente as pequenas empresas que criam tecnologias de IA de código aberto. A nova lei ainda não foi adotada oficialmente e aguarda a assinatura do governador da Califórnia, Gavin Newsom.
Entretanto, a Casa Branca está a trabalhar para encorajar as empresas a adoptar e expandir de forma independente medidas de segurança relacionadas com tecnologias de IA. De acordo com o The Verge, várias empresas líderes já concordaram em investir em pesquisas sobre segurança cibernética e discriminação, bem como desenvolver sistemas de rotulagem (marcas d’água) para conteúdo gerado por IA.