China divulga regras rígidas para IA que “se comporta como humanos”

A Administração do Ciberespaço da China (CAC) divulgou uma minuta de medidas para regulamentar os serviços de IA do país, aberta à consulta pública, informou a Reuters.

Fonte da imagem: julien Tromeur/unsplash.com

As regulamentações propostas se aplicarão a produtos e serviços que utilizam tecnologias de IA para imitar traços de personalidade humana, padrões de pensamento e estilos de comunicação, e que permitem a interação emocional com usuários na China por meio de texto, imagens, áudio ou vídeo, de acordo com a página do WeChat da CAC.

O órgão regulador observou que a minuta se baseia em uma abordagem regulatória abrangente, ponderada e escalonada, com supervisão diferenciada com base nos níveis de risco, garantindo tanto o apoio à inovação quanto a proteção contra abusos.

A minuta proíbe a criação e disseminação de conteúdo que ameace a segurança nacional, prejudique a honra ou os interesses nacionais, prejudique a unidade étnica, promova atividades religiosas ilegais, espalhe boatos que perturbem a ordem econômica ou social, contenha pornografia, envolva jogos de azar, violência ou incite o crime.

Conteúdo que incentive ou glorifique o suicídio ou a automutilação, bem como ações como abuso verbal ou manipulação emocional que possam prejudicar a saúde física ou mental dos usuários ou prejudicar sua dignidade, também são proibidos.

De acordo com o documento, os fornecedores de serviços de IA devem assumir a responsabilidade por questões de segurança ao longo de todo o ciclo de vida do produto e criar sistemas para auditar algoritmos, proteger dados e salvaguardar informações pessoais.

FornecedoresEles devem informar os usuários de que estão interagindo com IA, e não com um humano, e alertá-los sobre os perigos do uso excessivo. Também deverão avaliar as emoções dos usuários e o nível de dependência do serviço. O documento afirma que, caso os usuários apresentem emoções intensas ou comportamento viciante, os provedores de serviço deverão tomar as medidas cabíveis.

Lin Wei, presidente da Universidade de Ciências Políticas e Direito do Sudoeste, declarou na nota explicativa da minuta que os avanços nas tecnologias de IA estão levando a interação humano-máquina além da simples assistência funcional, rumo a interações emocionais e personalizadas. Essa evolução, embora altere os paradigmas da interação social, também gera uma série de novos riscos e desafios.

O cientista observou que as medidas regulatórias propostas visam gerenciar os riscos decorrentes especificamente do antropomorfismo (a transferência de características humanas para objetos inanimados) e da interação emocional, com foco particular na diluição das fronteiras entre humanos e máquinas.