A Anthropic, empresa criadora do modelo de IA Mythos para detecção de vulnerabilidades em sistemas de informação, inicialmente limitou o acesso a aproximadamente 50 organizações, incluindo agências governamentais. A Anthropic planeja expandir essa lista para 120 empresas e organizações em breve, mas essa iniciativa enfrenta objeções da Casa Branca.
Fonte da imagem: Anthropic
Segundo o The Wall Street Journal, as autoridades americanas estão preocupadas com as consequências da expansão excessiva do Mythos, que se provou uma poderosa ferramenta de IA em cibersegurança. Nas mãos de agentes maliciosos, esse software poderia ser usado como arma para ataques à infraestrutura de informação. Além disso, as autoridades temem que a capacidade computacional da Anthropic se esgote com um acesso tão amplo ao Mythos, o que poderia, em última análise, reduzir a eficácia do modelo quando usado para fins governamentais.
O lançamento do Mythos pela Anthropic simbolizou a retomada forçada do diálogo com as autoridades americanas após o escândalo envolvendo o cancelamento de seu contrato com o Pentágono. Esse novo ponto de resistência nas negociações entre o governo americano e a Anthropic sugere que as relações entre as duas partes estão longe da normalidade. Na semana passada, a Anthropic supostamente sofreu um incidente de acesso não autorizado ao Mythos e iniciou uma investigação, portanto, não se pode dizer que os desenvolvedores sejam irresponsáveis em sua abordagem aos termos de distribuição da ferramenta.
Fontes também relatam um caso curioso envolvendo a tentativa do governo americano de contratar Collin Burns, ex-funcionário da Anthropic, para chefiar uma agência especial especializada em avaliar os melhores modelos de IA disponíveis no mercado. Nem todos no governo aprovaram a contratação, justamente por sua ligação com a Anthropic, e Burns acabou não assumindo o cargo, que foi ocupado por outro candidato. Autoridades explicaram.Essa mudança foi feita em um esforço para selecionar um líder que fosse equidistante de todas as empresas que oferecem seus modelos de IA nos EUA.