A OpenAI publicou novos “princípios orientadores” que mudaram significativamente desde 2018.

A OpenAI publicou um documento atualizado em seu site, que descreve seus princípios fundadores. Isso consolida, de fato, o que já havia acontecido: sua transformação de uma organização sem fins lucrativos de pesquisa em uma empresa comercial.

Fonte da imagem: Dima Solomin / unsplash.com

Em sua versão de 2018, o memorando soava como o compromisso da OpenAI com a sociedade: a empresa aspirava estar na vanguarda do campo da inteligência artificial, com a capacidade de controlar uma “IA forte” (AGI) capaz de rivalizar com as capacidades humanas. Agora, a empresa menciona a AGI apenas duas vezes e não promete renunciar à competição com qualquer outro laboratório que desenvolva IA com tal poder, colocando essencialmente seus próprios interesses comerciais acima da ideia de “IA para todos”. Além disso, compromete-se a delegar mandatos a toda a indústria de IA: as decisões dentro da área devem ser tomadas democraticamente e os governos devem participar da construção da infraestrutura para reduzir o custo da IA ​​e tornar a tecnologia mais acessível.

O primeiro princípio da OpenAI é a democratização. A empresa se compromete a resistir à consolidação das capacidades avançadas de IA nas mãos de poucos. Além de aproveitar os benefícios da IA, isso significa que as decisões-chave sobre o desenvolvimento futuro da tecnologia devem ser tomadas pela sociedade como um todo, e não apenas pelos desenvolvedores de tecnologia.

O segundo princípio é o empoderamento. A empresa declara acreditar que a IA capacita os humanos a atingirem diversos objetivos, seja no trabalho ou na educação, e se esforça para criar produtos que ofereçam capacidades cada vez maiores. A OpenAI se responsabiliza por garantir que suas soluções causem o mínimo de danos possível à humanidade, mas também se compromete a flexibilizar as restrições quando não houver ameaça.

Fonte da imagem: Mariia Shalabaieva / unsplash.com

O terceiro princípio é a prosperidade compartilhada. À medida que as capacidades da IA ​​se expandem, o mundo ao nosso redor mudará. Os governos podem ter que considerar novos modelos econômicos que reflitam as realidades deste mundo. Os desenvolvedores também precisarão de infraestrutura suficientemente poderosa para suportar os sistemas de IA: os investidores, em particular, e a sociedade, em geral, precisarão compreender a enorme quantidade de dados computacionais que está sendo adquirida por receitas relativamente modestas.

O quarto princípio é a resiliência. À medida que a IA se torna mais poderosa, novas ameaças surgem, e a OpenAI pretende colaborar com colegas e governos para enfrentá-las. Isso se aplica, em particular, às ameaças biológicas e cibernéticas que a IA já é capaz de criar hoje — defesas simétricas contra elas também devem ser desenvolvidas. No entanto, criar defesas não é a única estratégia: os desenvolvedores devem construir sistemas seguros no nível da arquitetura.

Finalmente, o quinto princípio é a adaptabilidade. A empresa acredita que, diante de um futuro imprevisível, deve estar preparada para se transformar, atualizar seus princípios à medida que novos conhecimentos forem adquiridos e ser transparente sobre as mudanças nesses princípios. “Nem sempre faremos tudo perfeitamente, mas aprenderemos rapidamente e ajustaremos o rumo”, prometeu a OpenAI.