OpenAI e Anthropic fornecerão ao governo dos EUA acesso aos seus mais recentes modelos de linguagem de inteligência artificial antes do lançamento público, “para melhorar sua segurança”, escreve The Verge. Por outras palavras, as autoridades dos EUA verificarão se é seguro lançar novos modelos de IA no mundo.
Fonte da imagem: Andrew Neel/unsplash.com
Ambas as empresas assinaram um memorando de entendimento com o Instituto Americano de Segurança de IA, sob o qual se comprometem a disponibilizar modelos de IA antes e depois do seu lançamento público. A medida permitirá esforços conjuntos para realizar avaliações de riscos de segurança e resolver problemas potenciais, disse o departamento. A agência dos EUA acrescentou que o AI Safety Institute do Reino Unido também estará envolvido neste trabalho.
De acordo com The Verge, esta semana os legisladores da Califórnia aprovaram a Lei de Inovação em Inteligência Artificial Avançada Segura e Confiável. Esta lei exige que as empresas de IA na Califórnia tomem certas precauções antes de treinar modelos avançados de inteligência artificial. Tais medidas, em particular, incluem a capacidade de desativar rápida e completamente um modelo de IA, garantindo que os modelos de IA sejam protegidos de “modificações inseguras após o treinamento” e avaliando os riscos potenciais do uso de IA e seus componentes para “causar danos críticos”.
O documento não encontrou apoio de empresas envolvidas em tecnologias de IA. OpenAI e Anthropic se opuseram à sua adoção, observando que a nova lei poderia impactar negativamente as pequenas empresas que criam tecnologias de IA de código aberto. A nova lei ainda não foi adotada oficialmente e aguarda a assinatura do governador da Califórnia, Gavin Newsom.
Entretanto, a Casa Branca está a trabalhar para encorajar as empresas a adoptar e expandir de forma independente medidas de segurança relacionadas com tecnologias de IA. De acordo com o The Verge, várias empresas líderes já concordaram em investir em pesquisas sobre segurança cibernética e discriminação, bem como desenvolver sistemas de rotulagem (marcas d’água) para conteúdo gerado por IA.
A escassez de chips de memória, incluindo RAM, já teve um impacto negativo no mercado…
Até 2025, a qualidade dos deepfakes — mídias criadas usando inteligência artificial — havia melhorado…
O smartphone topo de linha Xiaomi 17 Ultra Leica Edition, criado em colaboração com a…
Na madrugada de 27 de dezembro de 2025, horário de Moscou, uma poderosa erupção solar…
A Fujifilm anunciou cartuchos de fita LTO Ultrium 10 (LTO-10) com capacidade bruta de 40…
A União Europeia esperava reduzir sua dependência dos EUA e da China em relação aos…