A Anthropic anunciou a criação de um consórcio para combater as ameaças cibernéticas provenientes de sistemas avançados de IA.

A Anthropic revelou seu novo modelo de IA Mythos Preview e anunciou a criação de um consórcio da indústria chamado Projeto Glasswing, que envolve a Microsoft, o Google, a Apple e mais de 40 outras grandes empresas. O objetivo da organização é se preparar para as novas ameaças cibernéticas representadas por sistemas avançados de inteligência artificial.

Fonte da imagem: Anthropic

De acordo com a revista Wired, o modelo Mythos Preview não estará disponível publicamente inicialmente. Os membros do consórcio terão acesso privado para testar seus sistemas e mitigar quaisquer vulnerabilidades que o modelo seja capaz de detectar. Segundo Dario Amodei, CEO da Anthropic, o modelo não foi especificamente treinado para cibersegurança, mas suas habilidades de programação provaram ser eficazes na identificação de vulnerabilidades.

Logan Graham, líder de testes da Anthropic, afirmou que o modelo Mythos Preview executa tarefas no nível de um especialista sênior em segurança e é capaz de desenvolver cadeias de ataque, realizar testes de penetração e analisar programas sem acesso ao código-fonte. Ele alertou que uma divulgação pública imprudente das capacidades totais deste modelo de IA poderia acelerar e fortalecer significativamente a posição dos cibercriminosos.

A Anthropic afirma que o modelo já descobriu milhares de vulnerabilidades críticas, incluindo erros que permaneceram indetectados por décadas, mesmo em códigos cuidadosamente revisados. A empresa aplicou princípios de divulgação coordenada, dando aos desenvolvedores tempo para corrigir as falhas antes de comentar publicamente sobre o projeto.

Os membros do consórcio, incluindo Amazon, Nvidia, Cisco, Linux Foundation e Broadcom, apoiaram a iniciativa. O Diretor Global de Segurança da Informação da Microsoft, Igor Tsyganskiy, observou que a participação no Projeto Glasswing permitirá a identificação precoce de riscos.Por sua vez, Graham enfatizou que o projeto deve se expandir para além do círculo atual de participantes, caso contrário, a tarefa global não será alcançada.Concluído.