Altman alertou: a IA poderia dominar o mundo acidentalmente sem hackear um único sistema

O CEO da OpenAI, Sam Altman, falando no podcast MD MEETS com o CEO da Axel Springer, Mathias Döpfner, descreveu um cenário preocupante para o futuro da tecnologia: a humanidade pode perder o controle da inteligência artificial (IA) não por intenção maliciosa ou um desastre causado pelo homem, mas por acidente.

Fonte da imagem: sama/x.com

Segundo ele, o perigo não está na “ascensão” da IA, mas nas pessoas gradualmente transferindo o controle a ela — voluntária e quase imperceptivelmente. Os usuários confiam cada vez mais nos conselhos da IA ​​a cada dia. Mas, à medida que os modelos se tornam mais inteligentes, Altman pinta o seguinte quadro: primeiro, a IA faz recomendações que as pessoas seguem voluntariamente; depois, faz recomendações que podem nem ser totalmente compreendidas, mas que invariavelmente se mostram corretas. Então, em algum momento, os usuários enfrentarão uma escolha: ouvir a IA ou perder para os concorrentes que seguem seus conselhos e recomendações.

No final das contas, acredita Altman, a maioria das pessoas começará a seguir as recomendações dos assistentes de IA sem questionar. “Imagine o que está acontecendo com o ChatGPT hoje? Centenas de milhões de pessoas se comunicam com ele diariamente; em breve, serão um bilhão. E, cada vez mais, confiamos a ele as decisões mais importantes em nossas carreiras, vidas pessoais e negócios”, diz ele. Altman está particularmente preocupado com o emergente “ciclo de feedback”, ou seja, quanto mais os usuários confiam nos conselhos da IA, mais dados ela coleta, mais inteligente se torna e mais influencia as decisões das pessoas.

O chefe da OpenAI questionou quem está realmente no controle dessa situação e concluiu que a humanidade poderia começar a seguir silenciosamente a vontade da IA. Ele acredita que esse cenário está sendo seriamente subestimado, mas representa a ameaça mais real.