O treinamento GPT-5 nunca começou – OpenAI teme que o novo modelo seja perigoso para a humanidade

Tendo prometido suspender o trabalho no sucessor da rede neural GPT-4, o OpenAI nunca começou a treinar o GPT-5. A medida é motivada pela preocupação pública sobre a ameaça potencial de grandes modelos de linguagem para o bem-estar da humanidade.

Fonte da imagem: ilgmyzin / unsplash.com

«Temos muito trabalho a fazer antes de podermos executar este modelo. Estamos trabalhando em novas ideias que achamos necessárias para isso, mas ainda não estamos perto de lançar”, disse o CEO da OpenAI, Sam Altman, em conferência organizada pelo jornal indiano Economic Times.

No final de março, mais de mil membros do público e da comunidade de especialistas, incluindo Elon Musk e Steve Wozniak, assinaram uma carta aberta pedindo a todos os laboratórios de inteligência artificial que suspendessem o treinamento em sistemas mais poderosos que o GPT-4 por pelo menos 6 meses. Altman observou mais tarde que o documento “perde a maioria das nuances técnicas sobre onde precisamos fazer uma pausa”, mas acrescentou que a OpenAI não começou a treinar o GPT-5 e não planeja fazê-lo por algum tempo.

O chefe da empresa rejeitou alguns avisos sobre possíveis ameaças aos sistemas de IA, dizendo que a própria OpenAI é capaz de realizar uma avaliação abrangente deles com o envolvimento de especialistas terceirizados, imitação de ataques cibernéticos em grande escala e outros testes de segurança. E mesmo após a conclusão do trabalho no GPT-4, demorou mais seis meses para liberar a plataforma para o domínio público, lembrou Altman. Ele também se opôs às medidas de regulamentação do governo para pequenas startups na área de IA – quando propôs essa medida nas audiências no Senado, ele se referia à própria OpenAI e aos players maiores.