A UE suspeitou que o Google usasse ilegalmente dados europeus para treinar o PaLM 2

A Comissão Irlandesa de Proteção de Dados (DPC) lançou uma investigação sobre o Google sobre o uso de informações pessoais no desenvolvimento de seu modelo de IA Pathways Language Model 2 (PaLM 2). O regulador irá verificar se o gigante tecnológico cumpriu os requisitos do Regulamento Geral de Proteção de Dados (RGPD) no tratamento de dados pessoais de cidadãos da União Europeia (UE) e do Espaço Económico Europeu.

Fonte da imagem: franganillo/Pixabay

O modelo PaLM 2 AI foi lançado em maio de 2023 e precedeu o advento dos modelos Gemini AI, que atualmente formam a base dos produtos de IA da corporação americana. O Gemini, lançado em dezembro do mesmo ano, tornou-se um modelo fundamental para geração de textos e imagens nos serviços do Google.

Ao abrigo do RGPD, as empresas são obrigadas a realizar uma avaliação do impacto dos seus produtos na proteção de dados antes de processarem informações pessoais, especialmente quando a natureza da sua utilização pode representar um elevado risco para os direitos e liberdades dos cidadãos. Este requisito é especialmente relevante para as novas tecnologias e é “crucial para garantir a consideração e proteção adequadas dos direitos humanos e liberdades fundamentais”, afirmou o regulador num comunicado.

A investigação da DPC sobre o Google não é a primeira vez que o regulador europeu se concentra estreitamente no desenvolvimento de grandes modelos de linguagem por gigantes da tecnologia. Em junho de 2023, após consulta à DPC, a Meta✴ suspendeu o treinamento do seu modelo de IA em conteúdo disponível publicamente postado por usuários do Facebook✴ e Instagram✴ na Europa. Posteriormente, a Meta✴ limitou a disponibilidade de alguns de seus produtos de IA para usuários nesta região.

Outro exemplo de intervenção da DPC foi a situação da empresa X. Em julho, os usuários da plataforma descobriram que suas publicações estavam sendo utilizadas para treinar sistemas de IA da startup xAI, fundada por Elon Musk. Em agosto, a plataforma suspendeu o processamento de dados de usuários europeus para treinar seu próprio chatbot de IA, Grok, após uma batalha legal com o DPC. Foi a primeira vez que o regulador usou os seus poderes para tomar tal ação contra uma empresa de tecnologia.