Líderes da indústria de IA estão expressando preocupação com o fato de leis antitruste poderem dificultar uma desaceleração coordenada do desenvolvimento de IA por motivos de segurança. Segundo a Wired, citando fontes, a OpenAI solicitou recentemente esclarecimentos a membros do Congresso dos EUA sobre a legalidade de organizar uma desaceleração generalizada no desenvolvimento de IA.
Fonte da imagem: Growtika/unsplash.com
Jakub Pachocki, cientista-chefe da OpenAI, falou recentemente sobre a necessidade de tal desaceleração. Ele afirmou que isso permitiria o desenvolvimento de mecanismos robustos de supervisão para sistemas de IA de autoaprendizagem. No entanto, especialistas acreditam que os esforços coordenados propostos para desacelerar o desenvolvimento futuro da IA podem violar a lei dos EUA, especificamente a Lei Sherman Antitruste.
Em julho, um grupo bipartidário de congressistas apresentou o projeto de lei “Cooperação para Combater Ameaças Hostis e Riscos à Segurança”, que protegeria a coordenação entre empresas de IA sobre desacelerações de contestações antitruste. O projeto de lei aguarda atualmente análise pelo Comitê Judiciário.
Enquanto isso, especialistas acreditam que citar riscos antitruste é apenas uma desculpa conveniente para evitar a discussão dos verdadeiros motivos pelos quais os desenvolvedores de IA evitam a cooperação.
Na realidade, as empresas estão envolvidas em uma batalha acirrada para conquistar uma fatia do mercado emergente de modelos avançados. Há também preocupações de que o avanço da China em IA tenha implicações significativas para a segurança nacional. E, o mais importante, os desenvolvedores de IA têm opiniões muito diferentes sobre a melhor maneira de desenvolver IA segura e, portanto, podem estar relutantes em colaborar nessa questão, escreve a Wired.
“O primeiro passo para os líderes do setor, OpenAI e Anthropic, é acabar com a disputa e colaborar em uma nova proposta”, escreveu John Schulman, cofundador da OpenAI, nas redes sociais. “Eles citam…””Leis antitruste, mas isso é mentira — leis antitruste proíbem certos acordos, mas não o desenvolvimento conjunto de uma oferta.”
Neste verão, os debates sobre os riscos associados à crescente corrida entre empresas de IA para criar e lançar modelos cada vez mais poderosos se intensificaram. A declaração de Jacob Coxon, ex-pesquisador da Anthropic e da OpenAI, de que os desenvolvedores de IA estão colocando a humanidade em risco, alimentou ainda mais a polêmica.
Além disso, uma série de incidentes de segurança, incluindo o ataque da OpenAI à Hugging Face, demonstrou que as medidas de segurança do setor não estão acompanhando o crescimento das capacidades dos modelos.