OpenAI dissolve AGI Readiness, outro departamento de segurança de IA

A OpenAI dissolveu o seu departamento AGI Readiness, que vinha aconselhando a empresa sobre a sua capacidade de lidar com novos sistemas de inteligência artificial que se estão a tornar cada vez mais poderosos, bem como sobre a prontidão do mundo para gerir esta tecnologia.

Fonte da imagem: Growtika/unsplash.com

O consultor sênior da AGI Readiness, Miles Brundage, anunciou sua saída da Substack. Ele citou custos ocultos muito altos, a maior eficiência de sua pesquisa fora da empresa, o desejo de ser menos tendencioso e o fato de ter alcançado tudo o que se propôs a fazer na OpenAI como os principais motivos para essa mudança. A IA Forte (AGI) é um sistema hipotético comparável ou superior aos humanos; Alguns especialistas estão confiantes de que a humanidade está perto de criá-lo, outros acreditam que isso é completamente impossível. De acordo com Brundage, nem a OpenAI nem qualquer outra empresa líder, nem o mundo inteiro estão prontos para isso – o especialista disse que pretende criar sua própria organização sem fins lucrativos ou ingressar em uma já existente para se envolver em pesquisa e defesa de políticas no campo da IA. Seus ex-subordinados da AGI Readiness serão transferidos para outros departamentos da OpenAI.

No ano passado, a OpenAI formou o Superalignment, um departamento dedicado à investigação de “avanços científicos e tecnológicos para gerir e controlar sistemas de IA que são muito mais inteligentes do que nós” para evitar que “fiquem fora de controlo”. A empresa prometeu alocar 20% de seu poder computacional às necessidades do departamento dentro de quatro anos. Mas um ano depois, em maio deste ano, parou de funcionar e seus líderes, os cofundadores da OpenAI, Ilya Sutskever e Jan Leike, anunciaram sua demissão da empresa. “Criar máquinas mais inteligentes que os humanos é uma tarefa inerentemente perigosa. A OpenAI assume uma enorme responsabilidade em nome de toda a humanidade. Mas, nos últimos anos, a cultura e os processos de segurança ficaram em segundo plano em relação a produtos brilhantes”, disse Leike na época.

No final de setembro, a CTO Mira Murati, o Diretor de Pesquisa Bob McGrew e o Vice-Presidente de Pesquisa Barret Zoph anunciaram suas saídas da OpenAI no mesmo dia.