Abuso de IA torna as pessoas mais burras, descobrem cientistas

«Quando usada incorretamente, a tecnologia pode levar e leva à deterioração de capacidades cognitivas que deveriam ser preservadas”, segundo os resultados de um estudo conduzido por cientistas da Universidade Carnegie Mellon (EUA) e da Microsoft. Eles tentaram descobrir como o uso da inteligência artificial generativa afeta as habilidades de pensamento crítico em humanos.

Fonte da imagem: Stefan Cosma/unsplash.com

Ao confiar na IA generativa em seu trabalho, uma pessoa muda seus esforços para avaliar a qualidade das respostas do sistema – quão adequadas elas são para uso em propósitos de trabalho. No entanto, ele faz menos uso das habilidades de pensamento crítico de ordem superior necessárias para criar, avaliar e analisar informações. Se os humanos só intervêm quando as respostas da IA ​​são insuficientes, eles se privam da “oportunidade diária de praticar seu julgamento e fortalecer seus ‘músculos’ cognitivos, deixando-os atrofiados e despreparados quando surgem exceções”. Em outras palavras, quando uma pessoa confia demais na IA, permitindo que ela “pense” por ela, ela se torna pior em resolver problemas por conta própria se a IA falhar.

O estudo envolveu 319 voluntários que admitiram usar IA no trabalho pelo menos uma vez por semana. Eles foram solicitados a fornecer exemplos de como a IA generativa poderia ser usada no trabalho, com base em três cenários principais: criação de materiais, como escrever um e-mail para um colega; preparar resumos de informações, como pesquisar um tópico ou listar os pontos de um artigo longo; pedindo conselhos ou criando um gráfico com base em dados existentes. Os voluntários foram então questionados se eles usaram habilidades de pensamento crítico ao completar a tarefa e se trabalhar com IA generativa os fez se esforçar mais ou menos no pensamento crítico. Para cada tarefa mencionada, os voluntários foram solicitados a avaliar o quão confiantes estavam em si mesmos, na IA generativa e em sua capacidade de avaliar as respostas da IA.

Fonte da imagem: Onur Binay / unsplash.com

Cerca de 36% dos entrevistados relataram usar habilidades de pensamento crítico para mitigar potenciais impactos negativos do trabalho com IA. Uma participante relatou que usou o ChatGPT durante a avaliação, mas verificou duas vezes as respostas da IA ​​por medo de dar a resposta errada e ser desclassificada. Outro voluntário disse que teve que editar rascunhos de e-mails gerados por IA para seu chefe porque a diferença de posição e idade importava muito para ele. Muitos admitiram verificar as respostas da IA ​​usando recursos conhecidos, incluindo YouTube e Wikipedia, embora isso talvez anule o propósito de recorrer à IA.

Para compensar as deficiências da IA ​​generativa, os trabalhadores precisam entender como essas deficiências surgem, mas nem todos sabem quais são as limitações da IA ​​moderna. O estudo descobriu que os participantes que estavam confiantes nas respostas corretas da IA ​​usaram menos pensamento crítico do que aqueles que relataram confiança em suas próprias habilidades. Os cientistas ainda não estão dizendo que as ferramentas de IA por si só tornam os humanos mais burros, mas a dependência excessiva delas pode enfraquecer nossa capacidade de resolver problemas por conta própria, sugere o estudo.