Eurodeputados apoiam mais de 3.000 emendas à “Lei de IA” – IA intrusiva é proibida

Em uma série de votações, os deputados apoiaram uma série de emendas ao projeto de lei de IA e concordaram com uma lista de requisitos para os chamados modelos fundamentais que sustentam sistemas avançados de IA, como o ChatGPT – no total, eles adotaram mais de 3.000 emendas.

Fonte da imagem: NoName_13 / pixabay.com

O documento obriga os desenvolvedores desses modelos a realizar um exame de segurança, mecanismos de gerenciamento de dados e reduzir “riscos à saúde, segurança, direitos básicos, meio ambiente, democracia e estado de direito” antes de serem lançados no mercado. Os desenvolvedores são obrigados a reduzir o consumo de energia e o uso de recursos dos sistemas, e os próprios sistemas estão sujeitos a registro em um banco de dados especial que será criado de acordo com a Lei de IA.

Os desenvolvedores de sistemas de IA devem ser transparentes ao operar, em particular rotulando o conteúdo como gerado por máquina; aplicar “medidas de segurança adequadas” em relação a este conteúdo; divulgar informações sobre os materiais utilizados no treinamento de IA, protegidos por direitos autorais.

Limitar o trabalho de sistemas biométricos baseados em IA tornou-se a direção mais importante. Sob a proibição estavam os mecanismos de sistemas de IA biométricos “intrusivos” e “discriminatórios”:

• Sistemas de identificação biométrica remota de “tempo real” em locais públicos;
• Sistemas de identificação biométrica à distância de “ação retardada” – com exceção dos sistemas de aplicação da lei para efeito de persecução criminal por crimes graves e apenas com autorização judicial;
• Sistemas de classificação biométrica usando características-chave (sexo, raça, etnia, status de cidadania, religião, crenças políticas);
• Sistemas policiais preditivos (baseados em perfis, análise de localização e crimes passados);
• Sistemas de reconhecimento de emoções em aplicação da lei, serviços de fronteira, locais de trabalho e instituições educacionais;
• A coleta indiscriminada de dados biométricos em redes sociais ou de câmeras de CFTV viola o direito à privacidade.

Fonte da imagem: Gerd Altmann / pixabay.com

Os parlamentares ampliaram a classificação de “áreas de alto risco” para saúde, segurança, direitos humanos básicos e meio ambiente para incluir plataformas de IA usadas em campanhas políticas, bem como algoritmos de recomendação das principais redes sociais. No caso geral, a decisão de classificar um sistema como grupo de alto risco é feita pelos próprios desenvolvedores.

Ampliou os direitos dos cidadãos de apresentar reclamações contra sistemas de IA, bem como receber esclarecimentos sobre decisões baseadas em sistemas de IA de alto risco, caso tais decisões tenham um impacto “significativo” em seus direitos.

Ao mesmo tempo, para apoiar a inovação na indústria, foram abertas exceções para projetos de pesquisa na área de IA, bem como projetos que se tornam disponíveis ao público sob uma licença de código aberto.