Todas as gigantes da IA ​​falharam nos testes de segurança – ninguém consegue controlar a superinteligência (3DNews)

Um novo relatório do Future of Life Institute (FLI), um grupo de segurança de IA, constata que as medidas de segurança de empresas líderes do setor, como OpenAI, Anthropic, xAI e Meta✴, estão “longe de serem novos padrões globais”. Especialistas independentes concluem que, embora gigantes da tecnologia estejam competindo para desenvolver a chamada “superinteligência”, nenhuma delas possui uma estratégia bem elaborada para monitorar sistemas tão avançados.

Fonte da imagem: Igor Omilaev/unsplash.com

As conclusões do estudo são publicadas em meio à crescente preocupação pública com o impacto social de sistemas com inteligência, raciocínio e pensamento lógico superiores. Essas preocupações foram alimentadas por diversos casos de bots de IA que incitaram pessoas ao suicídio ou à automutilação.

“Apesar da recente polêmica sobre ataques cibernéticos com IA e casos de IA levando pessoas à psicose e à automutilação, as empresas americanas de IA continuam menos regulamentadas do que restaurantes e seguem se opondo a padrões de segurança obrigatórios”, afirmou Max Tegmark, professor do MIT e presidente da Future of Life. A corrida na área da IA ​​não mostra sinais de desaceleração, com grandes empresas de tecnologia investindo centenas de bilhões de dólares na modernização e expansão de seus projetos de IA.

Vale lembrar que a FLI é uma organização sem fins lucrativos que conscientiza o público sobre os riscos que a humanidade pode enfrentar com o surgimento de máquinas inteligentes. A organização existe desde 2014 e foi inicialmente apoiada pelo empresário americano Elon Musk. Musk delineou recentemente três princípios sem os quais a IA se tornará perigosa para os humanos.