Cloudflare comparou o Mito Antrópico a um pesquisador experiente.

Especialistas da Cloudflare analisaram as capacidades do modelo avançado de inteligência artificial Anthropic Mythos e emitiram avaliações muito positivas, embora tenham observado que cenários adequados para sua utilização ainda precisam ser desenvolvidos.

Fonte da imagem: cloudflare.com

A Cloudflare participou do programa Project Glasswing da Anthropic, que lhe concedeu acesso ao Mythos. O programa visa superar os atacantes baseados em IA na descoberta de vulnerabilidades de sistemas. Outros participantes incluem Amazon Web Services, Apple, Google, Microsoft e Nvidia, que receberam empréstimos de até US$ 100 milhões da Anthropic para estudar as capacidades do Mythos. “O Cloudflare Mythos Preview é um modelo de uso geral, ainda não lançado, que revela um fato incontestável: os modelos de IA atingiram um nível de programação tão sofisticado que podem superar todos, exceto os humanos mais experientes, na busca e exploração de vulnerabilidades de software. O Project Glasswing é uma tentativa imediata de aproveitar essas capacidades para defesa”, observou a Cloudflare.

O Mythos impressionou os especialistas da Cloudflare; A empresa reconheceu que este é “um verdadeiro passo em frente, não apenas uma melhoria em relação ao que existia antes, mas uma mudança no Mythos que permite que o modelo agora colete esses bugs de baixo risco (que tradicionalmente permaneceriam invisíveis no backlog) e os combine em um único exploit mais perigoso”. Durante os testes, a Cloudflare destacou dois dos recursos mais importantes do Mythos: “encadeamento de exploits”, a capacidade de combinar vulnerabilidades de forma inteligente em um esquema de ataque coerente; e “geração de evidências”, a capacidade de demonstrar que os resultados funcionam.

Os especialistas da empresa também apontaram que outros especialistas não exploraram totalmente os pontos fortes do Mythos, enfatizando a velocidade de detecção de vulnerabilidades e a necessidade de corrigi-las rapidamente. A aplicação do Mythos é mais eficaz quando feita de forma direcionada e incremental. Examinar um código-fonte extenso em sua totalidade pode ser desafiador; é mais eficaz utilizá-lo em áreas específicas, ou seja, executar diversos agentes de IA sob o Mythos, atribuindo a cada um uma tarefa específica.

A Cloudflare acredita que seu modelo avançado de IA demonstrou que a abordagem para a correção de vulnerabilidades deve ser diferente: “A questão mais complexa é como deve ser a arquitetura em torno de uma vulnerabilidade. O princípio é dificultar a exploração por um invasor, mesmo que seja apenas um bug, para que o intervalo entre a descoberta de uma vulnerabilidade e sua correção seja menor.” A empresa propõe três medidas para proteger o software na era da IA: dificultar o acesso de hipotéticos invasores aos aplicativos por meio de ferramentas externas; projetar o software de forma que um ataque a uma parte não comprometa todo o sistema; E, por fim, implantar atualizações de segurança imediatamente, em vez de esperar que cada equipe de desenvolvimento conclua seu trabalho. A Cloudflare prometeu compartilhar detalhes com os clientes “nas próximas semanas” sobre como o Mythos mudará seus fluxos de trabalho.