O CEO da Anthropic, Dario Amodei, reconheceu que sua iniciativa para conter os avanços na inteligência artificial enfrenta um sério obstáculo geopolítico. Ele afirmou que o dilema mais premente é que potências rivais, principalmente a China, podem se recusar a acatar tais restrições em busca de vantagens militares.
Fonte da imagem: Anthropic
Amodei tornou pública sua posição no programa Sunday Morning da CBS News. Ele observou que o objetivo a longo prazo deveria ser estabelecer conjuntamente um “limite de velocidade” para o desenvolvimento de tecnologias de IA. No entanto, o CEO da Anthropic expressou ceticismo quanto à viabilidade dessa ideia, já que os incentivos para superar os rivais e obter vantagem estratégica são muito grandes. Apesar das dúvidas sobre o sucesso, ele enfatizou que as tentativas de chegar a um acordo são necessárias.
A declaração pública de Amodei veio após publicações nas quais ele pediu às empresas que diminuíssem o ritmo de aprimoramento de seus modelos mais avançados. Essa medida foi uma resposta às crescentes preocupações dentro do setor: pesquisadores já haviam alertado sobre o potencial da tecnologia para causar danos catastróficos. A situação foi ainda mais agravada pela saída do funcionário da Anthropic, Jacob Coxon, que atribuiu sua decisão ao receio de que a empresa e sua principal concorrente, a OpenAI, estivessem “jogando com nossas vidas”.
Em meio ao debate interno nos EUA, startups chinesas estão expandindo ativamente suas capacidades de redes neurais, competindo com líderes de mercado como a OpenAI e a Anthropic. Enquanto isso, o líder chinês Xi Jinping defendeu um sistema de governança global de IA baseado em consenso na cúpula do BRICS na Índia. As autoridades chinesas também anunciaram planos para ajudar a formar uma comunidade de IA aberta dentro do bloco, que atualmente compreende 11 países, incluindo a Rússia.
A Anthropic e a OpenAI estão se preparando simultaneamente para possíveis ofertas públicas iniciais (IPOs), embora nenhuma das empresas tenha anunciado ainda a abertura de capital.A empresa ainda não anunciou uma data oficial para seu IPO. O CEO da OpenAI, Sam Altman, afirmou que a empresa provavelmente não abrirá capital este ano, em parte devido a preocupações com a segurança. Apesar do relacionamento tenso com Amodei, que deixou a OpenAI no final de 2020 para fundar a Anthropic, Altman apoiou sua proposta, citando a necessidade de “diminuir o ritmo de desenvolvimento de sistemas avançados”.
Outras figuras proeminentes do setor também apoiaram a iniciativa do CEO da Anthropic. O presidente do Google DeepMind, Demis Hassabis, afirmou que o ensaio de Amodei aponta na direção certa, embora detalhes específicos ainda precisem ser definidos. Elon Musk, CEO da Tesla e da SpaceX, também acolheu a proposta de desacelerar o desenvolvimento de sistemas avançados de IA.