Microsoft prevê ameaças biológicas de dia zero devido à IA

Especialistas da Microsoft usaram inteligência artificial para descobrir vulnerabilidades de dia zero em sistemas de biossegurança usados ​​para impedir o uso não autorizado de DNA.

Fonte da imagem: Braňo / unsplash.com

Esses sistemas bloqueiam a venda e a compra de sequências genéticas que poderiam ser usadas para criar toxinas e patógenos mortais. Uma equipe de pesquisadores liderada por Eric Horvitz, pesquisador sênior da Microsoft, conseguiu contornar essa proteção de uma forma até então desconhecida pelos especialistas em segurança. Horvitz e seus colegas empregaram algoritmos de IA generativa projetados para gerar novas estruturas de proteínas — programas semelhantes já estão auxiliando na descoberta de novos medicamentos. O problema é que eles podem ter usos duplos, gerando estruturas de moléculas úteis e perigosas. Desde 2023, a Microsoft estuda o potencial de sistemas de IA de uso duplo para determinar se tais sistemas poderiam auxiliar bioterroristas na produção de proteínas maliciosas.

Os especialistas da empresa tentaram contornar as proteções do software de biossegurança. Ao produzir proteínas, os pesquisadores normalmente encomendam sequências de DNA de fornecedores comerciais, que podem então ser injetadas nas células. Usando o software, os pedidos recebidos são comparados com toxinas e patógenos conhecidos, e alertas são acionados se houver correspondências próximas. No desenvolvimento do ataque, a Microsoft utilizou vários modelos de geração de proteínas, incluindo seu próprio EvoDiff; os pesquisadores pretendiam redesenhar as toxinas para que elas passassem nas verificações do software, mantendo suas propriedades letais.

Fonte da imagem: digitale / unsplash.com

O experimento foi conduzido inteiramente em um ambiente digital; eles não criaram uma única proteína tóxica na prática, para evitar suspeitas de que a empresa estivesse desenvolvendo armas biológicas. A Microsoft também afirmou que notificou as autoridades americanas e os fabricantes de software sobre o estudo antes de publicar os materiais, embora algumas das moléculas de IA desenvolvidas ainda contornem essas proteções. A Integrated DNA Technologies, uma grande fabricante de materiais de DNA, afirmou que corrigir essas vulnerabilidades não é um esforço único, mas sim “o início de novos testes”, e comparou a situação atual a uma “corrida armamentista”. Para garantir que os resultados do estudo não sejam mal utilizados, os pesquisadores da Microsoft não divulgaram os detalhes de seu trabalho nem revelaram quais proteínas solicitaram que a IA reprocessasse.

No entanto, alguns argumentam que tais ações direcionadas não resolverão o problema geral, e a melhor defesa contra atividades maliciosas seria incorporar medidas de segurança na própria IA — seja diretamente ou por meio do controle das informações que ela produz. Uma defesa ainda mais confiável é monitorar a própria síntese genética no nível do fabricante, pois as tecnologias de IA estão se tornando cada vez mais difundidas e cada vez mais difíceis de controlar. “Não dá para colocar o gênio de volta na lâmpada. Se você tiver os recursos para nos enganar e criar uma sequência de DNA, provavelmente conseguirá treinar um modelo de linguagem grande”, admitem os cientistas.