China foi pioneira em regras que regem IA generativa

A Autoridade do Ciberespaço da China (CAC) concluiu as regras inéditas que regem a IA generativa com outros reguladores do país. As regras entrarão em vigor em 15 de agosto, sinalizando o desejo do governo de apertar o controle sobre o desenvolvimento desta indústria em rápido crescimento.

Fonte da imagem: Chickenonline / Pixabay

A IA generativa é uma área de tecnologia em rápido desenvolvimento na qual a IA é capaz de gerar conteúdo como texto ou imagens. O exemplo mais famoso é o ChatGPT, desenvolvido pela empresa americana OpenAI, que permite aos usuários fazer perguntas a um chatbot e receber respostas. O sucesso do ChatGPT gerou serviços concorrentes em todo o mundo. Os gigantes chineses da tecnologia não têm intenção de dar preferência aos concorrentes nessa área e já lançaram seus próprios serviços de IA generativa.

Esses serviços são treinados em grandes quantidades de dados, o que levantou preocupações dos reguladores globais sobre os riscos potenciais associados à tecnologia. “Não podemos nos dar ao luxo de recuperar o atraso com a inteligência artificial, permitindo seu uso com ou sem restrições e tendo consequências quase inevitáveis ​​para os direitos humanos após o fato”, disse Michelle Bachelet, Alta Comissária da ONU para os Direitos Humanos. A China, que controla rigidamente a Internet doméstica, está acompanhando de perto o desenvolvimento da IA. Os reguladores chineses estão preocupados que os serviços mencionados possam gerar conteúdo que contradiga as opiniões ou a ideologia de Pequim.

Em parte, é por isso que as empresas de tecnologia chinesas estão sendo cautelosas ao lançar seus serviços como o ChatGPT. Em vez de criar serviços públicos completos, as empresas chinesas estão direcionando suas tecnologias para aplicativos corporativos e de nicho. Por exemplo, o Alibaba lançou este mês a ferramenta Tongyi Wanxiang AI, que pode gerar imagens com base em prompts, mas está disponível apenas para clientes corporativos para testes beta.

No entanto, as regras do CAC fornecem aos gigantes da tecnologia uma estrutura para trabalhar com essa tecnologia. Eles se aplicarão apenas aos serviços de IA generativa disponíveis ao público em geral, e não aos que estão sendo desenvolvidos, por exemplo, em institutos de pesquisa.

Os serviços generativos de IA precisarão ser licenciados, de acordo com representantes do CAC. Se o desenvolvedor de tal produto descobrir conteúdo ilegal, ele deve tomar medidas para interromper sua geração, melhorar o algoritmo e, em seguida, relatar esse incidente ao regulador.

As novas medidas regulatórias tomadas pela China sinalizam maior controle sobre tecnologias emergentes, como IA generativa. Em março deste ano, Elon Musk, Steve Wozniak e mais de 1.000 especialistas em IA alertaram em uma carta aberta sobre os riscos potenciais da IA ​​para a sociedade. Tudo isso levanta questões não apenas sobre a ética do uso da IA, mas também sobre a necessidade de garantir transparência em seu trabalho e treinamento.