OpenAI fez um grande avanço na criação de IA forte pouco antes de Sam Altman ser demitido

Pouco antes de Sam Altman ser demitido do cargo de CEO da OpenAI, vários pesquisadores da empresa enviaram uma carta ao conselho de administração alertando sobre um grande avanço no desenvolvimento da inteligência artificial – uma descoberta que eles acreditavam que poderia ameaçar a humanidade. A Reuters informou, citando duas fontes. .

Fonte da imagem: Growtika/unsplash.com

A carta se tornou um dos elementos de uma longa lista de reclamações do conselho de administração contra o presidente da empresa, Sam Altman. O documento era sobre o projeto Q* (“Q com asterisco”) – representantes da OpenAI não fazem comentários oficiais sobre isso, mas Mira Murati, que atuou brevemente como CEO da empresa na ausência de Altman, escreveu uma mensagem dirigida aos funcionários na qual reconheceu a existência deste projeto e alertou sobre o interesse da mídia nele.

O projeto Q*, acreditam alguns funcionários da OpenAI, pode ser um avanço no desenvolvimento de uma inteligência artificial forte (AGI), capaz de executar tarefas tão bem quanto um ser humano. Equipado com poderosos recursos computacionais, o novo modelo aprendeu a resolver problemas matemáticos – até agora no nível de um aluno do ensino fundamental, mas essa conquista deixa os pesquisadores otimistas quanto aos sucessos futuros do Q*.

A matemática, segundo os cientistas, é a vanguarda no desenvolvimento da IA ​​generativa. Agora ele escreve textos e traduz com sucesso para diferentes idiomas, prevendo estatisticamente cada palavra subsequente, mas suas respostas à mesma pergunta podem variar muito. Alcançar o sucesso em um campo da matemática, onde só pode haver uma resposta correta, exige que a IA tenha habilidades de raciocínio significativas nos moldes da inteligência humana. Essas habilidades podem ser aplicadas em pesquisas avançadas de IA. Ao contrário de uma calculadora, que executa um número limitado de operações, o AGI pode generalizar, aprender e compreender.

Fonte da imagem: Andrew Neel / unsplash.com

Na sua carta ao conselho de administração, os investigadores da OpenAI salientaram o poder da IA ​​e a ameaça potencial para a humanidade, embora não tenham especificado quais os aspectos da segurança que podem afectar. Os especialistas em tecnologia da informação debatem há muito tempo sobre máquinas altamente inteligentes que, por exemplo, poderiam concluir que é do seu interesse destruir a humanidade. Os autores da carta destacaram o trabalho da unidade, formada pela combinação das equipes Code Gen e Math Gen, – os cientistas desta unidade estavam estudando maneiras de otimizar os modelos de IA existentes para melhorar a qualidade dos sistemas de raciocínio e direcionar seu potencial para o trabalho científico. .

Altman transformou a plataforma ChatGPT em um dos produtos de software mais populares e atraiu recursos financeiros e computacionais da Microsoft para trabalhar na criação do AGI. Na semana passada, durante o seu discurso na cimeira da APEC, ele disse aos líderes mundiais que um grande avanço estava ao virar da esquina. “Quatro vezes na história da OpenAI, a última das quais não foi há mais de duas semanas, tive o privilégio de estar em uma sala onde parecemos estar afastando o véu da ignorância e avançando a fronteira da descoberta, e foi a honra profissional de uma vida inteira fazer isso”, disse Altman. No dia seguinte, o conselho de administração o demitiu.