Nos estágios iniciais do desenvolvimento de sistemas de IA generativa, seus criadores estavam preocupados com a segurança, pois suspeitavam que alguns usuários os utilizariam para criar novos tipos de armas, incluindo armas biológicas. A Anthropic afirma ter frustrado diversas tentativas de criação de armas biológicas neste ano.
Fonte da imagem: Anthropic
Essas informações vieram à tona após a publicação do relatório da Anthropic sobre casos de uso indevido de seus modelos de IA. No entanto, a própria empresa enfatiza que não pode afirmar com certeza que os cientistas envolvidos nesses incidentes tinham a intenção de criar armas biológicas. De fato, consultas a modelos de IA nessa área são frequentemente usadas para desenvolver vacinas contra patógenos perigosos, e é difícil determinar as verdadeiras intenções do desenvolvedor com base em sua composição. Mesmo assim, a Anthropic decidiu levar esses incidentes ao conhecimento dos órgãos reguladores por precaução.
Até então, os casos de uso de modelos de IA para encontrar e explorar vulnerabilidades na infraestrutura de informação de empresas e organizações receberam muito mais atenção, enquanto as ameaças biológicas permaneciam em grande parte hipotéticas. Segundo Andrew Weber, consultor sênior do Strategic Risk Council, o relatório mais recente da Anthropic contém “exemplos alarmantes do envolvimento de desenvolvedores de armas biológicas patrocinados por Estados, que exploram as capacidades de modelos de IA em rápida evolução”.
O extenso relatório da Anthropic, que abrange os últimos oito meses, cita tradicionalmente exemplos de modelos de IA da família Claude sendo usados por representantes de países hostis aos Estados Unidos para atingir objetivos políticos específicos. Pela primeira vez, também citou exemplos do uso de Claude para desenvolver armas tradicionais, incluindo armas de fogo, mísseis, bombas e drones de combate.
A Anthropic foi menos categórica ao identificar casos que descrevem tentativas de desenvolver armas biológicas.armas, pois não se sabe ao certo se os solicitantes tinham motivações maliciosas. Por esse motivo, nem as organizações nem os países envolvidos nessa atividade foram nomeados. No entanto, a empresa ficou alarmada com as tentativas dos autores de ocultar suas origens e os objetivos dessa atividade, e as contas relevantes foram bloqueadas.
Um exemplo citado foi a tentativa de um pesquisador de estudar a disseminação do vírus chikungunya, transmitido aos humanos pela picada de mosquitos infectados e que causa dores articulares prolongadas acompanhadas de febre alta. Segundo a Anthropic, esse pesquisador em particular estava tentando modificar o vírus, conferindo-lhe propriedades nocivas mais acentuadas. Além da pesquisa teórica, o pesquisador realizava experimentos práticos com animais, e um laboratório para esses fins seria fornecido por um instituto de pesquisa de defesa.
Até o ano passado, a própria Anthropic avaliou que seus modelos não eram avançados o suficiente para auxiliar humanos na condução de pesquisas biológicas capazes de levar à criação de armas. As versões atuais dos modelos de IA da Anthropic já são capazes de auxiliar em tais assuntos, o que torna necessária a implementação de medidas de proteção e restrição. Especialistas enfatizam que a IA, em seu estágio atual de desenvolvimento, oferece o potencial tanto para a criação de medicamentos quanto de armas biológicas, que a humanidade será incapaz de combater sem preparação. Andrew Weber defendeu a restrição do acesso de pesquisadores dePaíses hostis aos Estados Unidos que não utilizam essas ferramentas de IA.