A inteligência artificial está assustando até mesmo seus criadores: pesquisadores estão abandonando a OpenAI e a Anthropic em massa.

Especialistas renomados em IA estão alertando para os crescentes perigos da tecnologia de IA, levando empresas a protestar ou a expressar publicamente sérias preocupações sobre o rápido desenvolvimento da área, segundo reportagem da Axios.

Fonte da imagem: Immo Wegmann/unsplash.com

Na segunda-feira, Mrinank Sharma, chefe da unidade de pesquisa em segurança de IA, Anthropic, anunciou sua renúncia, reconhecendo que “o mundo está em perigo”. Também nesta semana, a pesquisadora Zoë Hitzig deixou a OpenAI, citando preocupações éticas. Outro funcionário da OpenAI, Hieu Pham, escreveu nas redes sociais: “Finalmente sinto a ameaça existencial que a IA representa”.

“Nunca vi tantos tecnólogos expressarem suas preocupações com tanta força, frequência e apreensão como em relação à IA”, escreveu Jason Calacanis, investidor em tecnologia e co-apresentador do podcast “All-In”, nas redes sociais.

O empreendedor Matt Schumer compara a situação atual à véspera da pandemia. Sua publicação na Platform X, que descreve os riscos associados à transformação radical dos processos de trabalho e da vida humana pela IA, viralizou instantaneamente, alcançando 56 milhões de visualizações em 36 horas.

Ao mesmo tempo, a maioria dos funcionários de empresas de IA permanece otimista e acredita que pode gerenciar de forma inteligente as tecnologias modernas sem prejudicar a sociedade ou causar perdas significativas de empregos. No entanto, os próprios desenvolvedores reconhecem os riscos existentes associados à inteligência artificial.

A Anthropic publicou um Relatório de Risco de Sabotagem sobre os riscos de sabotagem de seu principal modelo de IA, o Claude Opus 4.6.Reconhece-se que existem riscos, ainda que pequenos, mas que não podem ser considerados insignificantes, de que a IA possa ser usada em atividades criminosas, incluindo a criação de armas químicas, e, em casos raros, possa cometer crimes.ações sem instrução humana direta.