As principais empresas de inteligência artificial sediadas na Califórnia se manifestaram contra um novo projeto de lei aprovado pelo Senado estadual. O projeto de lei, que deverá ser apreciado pela Assembleia Geral em agosto, introduz requisitos rigorosos para garantir a segurança dos sistemas de IA.
Fonte da imagem: Gerd Altmann/Pixabay
O Vale do Silício está enfrentando uma grande crise por causa de uma proposta de lei de segurança de IA na Califórnia. As grandes empresas da indústria, incluindo OpenAI, Anthropic, Cohere e Meta✴, opõem-se a regulamentações de segurança rigorosas que poderiam limitar o desenvolvimento dos seus modelos de IA de ponta, relata o Financial Times.
O projeto de lei, já aprovado pelo Senado estadual e aguardando votação na Assembleia em agosto, exigiria que as empresas garantissem que não criariam modelos de IA com capacidades perigosas, como o desenvolvimento de armas biológicas ou nucleares. Além disso, os desenvolvedores serão obrigados a passar por verificações de segurança regulares e implementar um “interruptor de desligamento” para desligar seus modelos em caso de emergência.
No entanto, muitos no setor tecnológico acreditam que o projeto de lei impõe restrições e encargos financeiros indevidos às empresas, especialmente às pequenas startups. Andrew Ng, um proeminente pesquisador de IA, disse que as regras “sufocam a inovação” e “promovem o medo entre aqueles que ousam adotar novas tecnologias”. Particularmente crítico é o potencial impacto negativo do projeto de lei nos modelos de IA de código aberto. Os desenvolvedores temem ser responsabilizados pelas ações dos invasores que manipulam seus modelos de código aberto. Arun Rao, da Meta✴, chegou a afirmar que o projeto de lei “acabaria com o código aberto na Califórnia”.
O projeto foi patrocinado pelo Centro de Segurança de Inteligência Artificial (CAIS), uma organização sem fins lucrativos associada ao movimento do altruísmo eficaz. O senador Scott Wiener, patrocinador do projeto, insiste que seu objetivo é garantir o desenvolvimento bem-sucedido da IA, levando em consideração os riscos de segurança. Ele planeja introduzir alterações para esclarecer o escopo da lei e reduzir a responsabilidade potencial dos desenvolvedores de modelos de código aberto.
No meio dos esforços globais para regular a indústria de IA em rápido crescimento, o projeto de lei da Califórnia está a suscitar sérias preocupações em Silicon Valley. Alguns investidores já estão recebendo perguntas de fundadores de startups que estão pensando em sair do estado. Os especialistas apelam a uma abordagem mais direcionada na legislação, concentrando-se em casos de utilização específicos da IA, em vez de na regulamentação geral do desenvolvimento de modelos.
A disputa sobre o projecto de lei da Califórnia reflecte a tensão crescente entre o desejo de garantir a segurança das tecnologias de ponta e os receios de que a regulamentação excessiva da inteligência artificial possa sufocar a inovação. Enquanto os legisladores lutam para equilibrar o equilíbrio, o resultado desta batalha poderá ter consequências de longo alcance para o futuro da IA, não apenas na Califórnia, mas em todo o mundo.