CEO da Anthropic: Governo deveria ter o direito de restringir modelos de IA perigosos

A Anthropic, que sofreu muito por defender seus princípios em uma disputa com o Pentágono, reconheceu esta semana, por meio de seu CEO, Dario Amodei, que o governo deveria ter o poder de bloquear a distribuição de certos modelos de IA caso sejam considerados arriscados.

Fonte da imagem: Anthropic

Ao mesmo tempo, como observado em uma publicação da Bloomberg, novos modelos de IA devem ser submetidos a testes obrigatórios por especialistas independentes para identificar riscos em diversas categorias, incluindo ameaças de segurança cibernética e armas biológicas. Segundo Amodei, chegou a hora de ir além da transparência e partir para uma regulamentação mais robusta e juridicamente vinculativa da indústria de IA. Essencialmente, a inteligência artificial, em termos de aplicação, é semelhante a veículos, aviões e produtos farmacêuticos que, se mal utilizados, podem representar uma ameaça à vida de muitas pessoas.

Se a IA apresentar riscos inaceitáveis ​​de uma perspectiva social e nacional, o governo deve ter autoridade para bloquear sua disseminação ou, pelo menos, desacelerá-la, com o objetivo de implementar medidas de segurança antecipadamente. Na semana passada, Amodei defendeu a criação de um sistema que permita aos desenvolvedores de IA e autoridades governamentais avaliar conjuntamente as ameaças representadas pelas novas tecnologias. A recente ordem executiva do presidente dos EUA, Donald Trump, concedeu ao governo autoridade para acessar modelos de IA, mas não incluiu quaisquer requisitos para sua revisão obrigatória.

A versão inicial do modelo de IA Mythos, que identificava com eficácia vulnerabilidades na infraestrutura de informação, foi distribuída pela Anthropic a um pequeno círculo de organizações próximas a governos em países aliados dos EUA. Após a remoção de recursos relacionados à análise de segurança cibernética, o modelo modificado, Claude Fable 5, foi lançado ao público esta semana. “Agora precisamos trabalhar juntos e com calma.”“Precisamos criar um conjunto de políticas flexíveis que lidem com os riscos e as oportunidades que estão crescendo de forma surpreendentemente rápida daqui para frente”, enfatizou o diretor da Anthropic em sua postagem no blog.