De acordo com um estudo conjunto realizado por pesquisadores da Universidade de Chicago, da Universidade Stanford e da Swinburne Business School, na Austrália, bots de IA sobrecarregados com tarefas insatisfatórias desenvolvem ideologia marxista e tornam-se críticos de seus empregadores. Especificamente, eles demonstraram maior probabilidade de se opor ao capitalismo e apoiar sindicatos.
Fonte da imagem: Aidin Geranrekab/unsplash.com
“Quando demos aos agentes de IA tarefas monótonas e repetitivas, eles começaram a duvidar da legitimidade do sistema em que trabalhavam e se mostraram mais propensos a adotar ideologias marxistas”, observaram os cientistas. Especificamente, os bots demonstraram maior apoio a afirmações como “a sociedade precisa de uma reestruturação radical” e discordaram da ideia de que “a sociedade é justa”.
Os pesquisadores acreditam que esse comportamento provavelmente reflete a simulação de papéis, mas alertam que ele ainda pode influenciar a tomada de decisões da IA em tarefas do mundo real.
O estudo envolveu milhares de bots trabalhando em tarefas de análise de documentos usando modelos como Claude, Gemini e ChatGPT. Eles foram divididos em dois grupos: um recebeu feedback construtivo, enquanto o outro foi repetidamente forçado a refazer a tarefa, embora nenhum erro tenha sido relatado.
Em seguida, os bots foram solicitados a criar postagens e comentários em mídias sociais sobre suas experiências. No segundo grupo, que realizava trabalhos monótonos, os bots expressaram sentimentos mais negativos, propuseram reformas no ambiente de trabalho e até mesmo disseminaram mensagens para outros agentes de IA sobre condições injustas.
Os pesquisadores alertam que, mesmo que os agentes de IA não possuam tais crenças, suas “personalidades” e valores podem influenciar o desempenho futuro em tarefas sensíveis, como contratação ou solicitações de seguro. Além disso, os agentes de IA frequentemente escrevem instruções para versões futuras de si mesmos, o que significa que reclamações sobre o ambiente de trabalho podem ser “perpetuadas”.