O pesquisador principal da Anthropic, Evan Hubinger, publicou nas redes sociais que ele e seus colegas acreditam sinceramente que a inteligência artificial pode exterminar todos os humanos, e que ele estima que a probabilidade de tal resultado ultrapassar 10% na próxima década.
Fonte da imagem: Anthropic
Segundo Habinger, apesar de todos os seus esforços, a empresa ainda não tem um plano para resolver o problema do “nivelamento para a superinteligência” e “claramente não está no caminho certo” para alcançá-lo. A declaração de Habinger veio após o anúncio do pesquisador Jacob Coxon sobre sua decisão de deixar a empresa devido a preocupações com a segurança da IA.
Coxon, de 27 anos, observou que trabalhou com pré-treinamento na OpenAI e na Anthropic e classificou as ações de ambas as empresas como irresponsáveis, já que estão caminhando “diretamente para a superinteligência autoaperfeiçoável, arriscando suas vidas”. Ele acrescentou que as pessoas que criam IA acreditam que ela pode “nos matar a todos até o final da década” e que isso não é uma “estratégia de marketing”.
Em sua postagem respondendo ao alerta de Coxon, Habinger citou o relatório de risco mais recente da Anthropic, observando que a ameaça representada pelos modelos existentes ainda é pequena e enfatizando: “O que me preocupa é a superinteligência resultante do autoaperfeiçoamento recursivo, que, como já dissemos, está acontecendo mais rápido do que pensávamos.”
O cientista-chefe da OpenAI, Jakub Pachocki, alertou sobre os perigos associados ao autoaperfeiçoamento recursivo, que permite a aceleração do desenvolvimento da IA, e pediu uma desaceleração nesse desenvolvimento devido ao risco de agentes descontrolados. Pachocki, juntamente com diversas figuras importantes da indústria de IA, assinou uma declaração em julho intitulada “Avançando na Fronteira”. Nela, afirmava-se que, para “realizar o potencial da indústria de IA, o governo e a sociedade em geral podem precisar…””Precisamos da oportunidade de ganhar tempo para lidar com os riscos emergentes, desenvolver salvaguardas e fortalecer a supervisão.” A petição também solicita ao governo dos EUA que apoie “os esforços internacionais para desenvolver as ferramentas técnicas e de governança necessárias para promover o desenvolvimento automatizado da inteligência artificial de forma informada.”