Parlamentares europeus chegaram a um acordo preliminar sobre a Lei da IA

Após intensas discussões, os legisladores em Bruxelas conseguiram chegar a um “acordo preliminar” sobre uma “Lei de Inteligência Artificial” pan-europeia. Este será o primeiro conjunto de regras do mundo para governar os sistemas de IA – pode servir de guia para outras regiões cujas autoridades procuram aprovar leis semelhantes.

Fonte da imagem: NoName_13 / pixabay.com

Os legisladores estabeleceram obrigações que se aplicam aos desenvolvedores de sistemas de IA de uso geral de “alto desempenho”: se esses sistemas atenderem a determinados critérios, deverão ser sujeitos a uma série de atividades, incluindo avaliação de riscos, testes adversários, relatórios de incidentes e mais. Os desenvolvedores fornecem transparência – em particular, fornecem uma visão geral detalhada dos materiais usados ​​no treinamento de IA. Por exemplo, a empresa responsável pelo ChatGPT, OpenAI, ainda se recusa a divulgar esta informação.

Os cidadãos terão o direito de apresentar queixas contra os sistemas de IA e receber explicações sobre decisões tomadas por sistemas de “alto risco” se essas decisões afetarem os seus direitos. Os mecanismos de aplicação ainda não foram descritos, mas o valor das multas é indicado: de 7,5 milhões de euros ou 1,5% do volume de negócios global da empresa a 35 milhões de euros ou 7% da receita global.

Em diversas áreas, o uso de IA é proibido. Por exemplo, reconhecer rostos de câmaras de vigilância e categorizar pessoas com base em “características críticas” como raça, preferências íntimas, crenças religiosas ou políticas; é proibida a utilização de sistemas de reconhecimento de emoções em locais de trabalho ou instituições de ensino; É proibida a criação de sistemas de “classificação social”. Existem garantias e exceções para o uso de sistemas biométricos em tempo real pelas autoridades policiais e para a busca de evidências em gravações.

Fonte da imagem: Gerd Altmann / pixabay.com

O primeiro projeto da “Lei da IA” europeia foi apresentado em 2021 – então o documento definia o que é considerado IA em geral, e tinha como objetivo desenvolver padrões uniformes para regular esta área nos estados membros da UE. Logo depois, surgiram as plataformas ChatGPT e Stable Diffusion, levando a inúmeras alterações no projeto de lei. Agora os parlamentares chegaram a um acordo preliminar e o documento será enviado para discussões adicionais, incluindo uma votação nas comissões do Parlamento Europeu sobre o mercado interno e as liberdades civis. Espera-se que um acordo final seja alcançado antes do final do ano. Mesmo assim, a Lei AI não entrará em vigor até 2025.

As regulamentações para análise de dados biométricos em tempo real usando IA, bem como sistemas de IA de uso geral como o ChatGPT, geraram o debate mais acalorado. Os eurodeputados defendem a proibição total da utilização de IA na vigilância biométrica e os governos nacionais procuram exceções para os militares, as autoridades responsáveis ​​pela aplicação da lei e as agências de segurança do Estado. No último minuto, representantes da Alemanha, Itália e França também propuseram a possibilidade de auto-regulação para os criadores de IA generativa.