Pequim apresenta princípios éticos para regular a inteligência artificial

A China publicou o primeiro conjunto de princípios éticos para regular a inteligência artificial (IA). A prioridade é a proteção dos direitos do usuário e a prevenção dos riscos associados à influência dos gigantes globais da tecnologia. Outro objetivo da iniciativa é a aspiração da China de se tornar um líder global em IA até 2030.

Fonte: scmp.com

O manual diz que uma pessoa deve manter total autoridade para tomar decisões, bem como o direito de escolher entre recorrer aos serviços de IA ou interrompê-los a qualquer momento. O documento foi publicado pelo Ministério da Ciência e Tecnologia da RPC há uma semana. O objetivo oficial do documento é “garantir que a IA esteja sempre sob controle humano”. O guia é intitulado A Especificação de Ética de Inteligência Artificial de Próxima Geração. O documento foi desenvolvido pelo comitê de governança da IA ​​criado dentro do ministério em fevereiro de 2019. Em junho do mesmo ano, o comitê publicou uma versão preliminar do guia com redação mais curta e ampla.

O documento fornece seis princípios básicos para sistemas de IA, principalmente garantindo sua “capacidade de gerenciamento e confiabilidade”. Além disso, foram observadas melhorias no bem-estar humano, equidade e justiça, proteção da privacidade e segurança e maior alfabetização ética. A importância primordial de proteger e capacitar os usuários reflete o trabalho de Pequim para aumentar o controle sobre o setor de tecnologia do país. Não muito tempo atrás, os princípios de composição de algoritmos para recomendações de conteúdo foram publicados na China – tais algoritmos são frequentemente baseados em sistemas de IA, construídos na coleta e análise de grandes quantidades de dados do usuário.

Fonte: scmp.com

Em todos os casos, as inovações realmente implicam na ampliação dos direitos do usuário – ele passa a ter mais controle sobre a interação com os sistemas de IA na Internet. São mencionadas questões de segurança de dados, privacidade pessoal e o direito de optar por não participar das decisões de IA. De acordo com o documento, a prevenção de riscos envolve a identificação e eliminação de vulnerabilidades técnicas em sistemas de IA, garantindo a responsabilidade das organizações do setor, bem como otimizando o gerenciamento e o controle de qualidade de produtos baseados em IA. Os Princípios proíbem os fornecedores de produtos e serviços movidos a IA de se envolver em atividades ilegais e colocar em risco a segurança nacional, pública e industrial. Esses sistemas não devem prejudicar o interesse público.

Em 2017, o Conselho de Estado da RPC apresentou um plano segundo o qual o país deve ultrapassar os Estados Unidos e se tornar o líder mundial em IA. Na primeira fase do plano, que coloca a liderança sobre o governo, é dito que até 2020, a indústria do país deve se equiparar às tecnologias de IA de ponta do mundo, suas aplicações práticas, princípios éticos e estruturas políticas. A próxima meta é um grande avanço em IA até 2025, com a RPC se tornando o país líder neste campo até o final da década.