O chefe de segurança de IA da Anthropic deixou a empresa, percebendo que “o mundo está em perigo”.

Mrinank Sharma, ex-chefe da unidade de pesquisa de segurança de IA da Anthropic, publicou online esta semana uma carta que enviou a seus colegas antes de deixar a empresa. Nela, ele explicou sua decisão de sair da Anthropic e delineou seus planos para o futuro.

Fonte da imagem: Anthropic

“Consegui tudo o que queria aqui”, escreveu Sharma em sua carta, que também menciona projetos de desenvolvimento de mecanismos de defesa para mitigar os riscos de bioterrorismo usando IA e trabalhos que estudam o impacto das redes neurais na humanidade.

Ao longo de sua carreira, Sharma percebeu que era hora de seguir em frente, pois estava constantemente pensando nos perigos representados pela IA, pelas armas biológicas e pelas “crises interconectadas em série que se desenrolam agora”. “Parece que estamos nos aproximando de um limite além do qual nossa sabedoria deve crescer proporcionalmente à nossa capacidade de influenciar o mundo, ou enfrentaremos as consequências”, disse Sharma.

“Durante meu tempo aqui, vi repetidamente como é difícil deixar que nossos valores realmente guiem nossas ações. Vi isso em mim mesmo, dentro da empresa, onde enfrentamos constantemente a pressão para abandonar o que mais importa, e na sociedade em geral”, acrescentou Sharma.

No futuro, ele planeja se dedicar a trabalhos que estejam alinhados com seus valores, estudar poesia e muito mais. Vale ressaltar que vários desenvolvedores líderes deixaram a Anthropic recentemente. O texto completo da carta de Sharma foi publicado em um artigo do Business Insider.

A própria Anthropic está em negociações para captar investimentos adicionais, o que poderia aumentar o valor de mercado da empresa para US$ 350 bilhões. Na semana passada, foi lançado o Claude Opus 4.6 — um modelo de IA atualizado, projetado para melhorar a produtividade no escritório e a eficiência da programação, com uma janela de contexto maior para processar documentos mais extensos e suporte para…Executar tarefas mais complexas.