Especialistas renomados em IA estão alertando para os crescentes perigos da tecnologia de IA, levando empresas a protestar ou a expressar publicamente sérias preocupações sobre o rápido desenvolvimento da área, segundo reportagem da Axios.
Fonte da imagem: Immo Wegmann/unsplash.com
Na segunda-feira, Mrinank Sharma, chefe da unidade de pesquisa em segurança de IA, Anthropic, anunciou sua renúncia, reconhecendo que “o mundo está em perigo”. Também nesta semana, a pesquisadora Zoë Hitzig deixou a OpenAI, citando preocupações éticas. Outro funcionário da OpenAI, Hieu Pham, escreveu nas redes sociais: “Finalmente sinto a ameaça existencial que a IA representa”.
“Nunca vi tantos tecnólogos expressarem suas preocupações com tanta força, frequência e apreensão como em relação à IA”, escreveu Jason Calacanis, investidor em tecnologia e co-apresentador do podcast “All-In”, nas redes sociais.
O empreendedor Matt Schumer compara a situação atual à véspera da pandemia. Sua publicação na Platform X, que descreve os riscos associados à transformação radical dos processos de trabalho e da vida humana pela IA, viralizou instantaneamente, alcançando 56 milhões de visualizações em 36 horas.
Ao mesmo tempo, a maioria dos funcionários de empresas de IA permanece otimista e acredita que pode gerenciar de forma inteligente as tecnologias modernas sem prejudicar a sociedade ou causar perdas significativas de empregos. No entanto, os próprios desenvolvedores reconhecem os riscos existentes associados à inteligência artificial.
A Anthropic publicou um Relatório de Risco de Sabotagem sobre os riscos de sabotagem de seu principal modelo de IA, o Claude Opus 4.6.Reconhece-se que existem riscos, ainda que pequenos, mas que não podem ser considerados insignificantes, de que a IA possa ser usada em atividades criminosas, incluindo a criação de armas químicas, e, em casos raros, possa cometer crimes.ações sem instrução humana direta.
O Google integrou o sistema de verificação reCAPTCHA de última geração à plataforma fechada Google…
A Samsung Electronics expandiu sua equipe de robótica do futuro e, simultaneamente, sua divisão de…
Com receitas recordes em meio ao boom da IA, a Nvidia tem investido muito mais…
A Intel planeja apresentar seus processadores Nova Lake no segundo semestre deste ano. Embora muito…
Um serviço proxy do mercado cinza na China revende o acesso aos modelos de IA…
O impressionante desempenho das ações da Intel este ano pode dar a impressão de que…