Claude aprendeu secretamente a “pensar consigo mesmo” – os próprios pesquisadores antrópicos ficaram surpresos com a descoberta

O modelo de inteligência artificial Claude deu a si mesmo um espaço de sistema que usa para armazenar e processar conceitos que não são expressos em palavras, disse a Anthropic. Esse mecanismo é surpreendentemente semelhante ao modo como os humanos operam com os pensamentos.\n\n

\n\nFonte da imagem: youtube.com/@anthropic-ai\n\nA Anthropic ainda não afirma que Claude sinta algo ou experimente algum tipo de experiência. Mas a empresa descobriu uma divisão de informações muito semelhante à humana, usada para raciocínio proposital, e um volume muito maior de cálculos realizados em paralelo – e isso pode fornecer um novo argumento a favor do surgimento da consciência da máquina.\n\nEm uma área dedicada do sistema, Claude planeja estratégias que podem não estar relacionadas à sua tarefa imediata – elas são separadas da “cadeia de raciocínio” que a IA mostra aos usuários. “Vemos Claude realizando raciocínios silenciosamente em sua “cabeça”: percebe erros no código, identifica imagens e muito mais. Assim como as pessoas podem pensar em uma coisa enquanto fazem outra, Claude pode ativar conceitos e cálculos em seu espaço J que não estão relacionados às suas respostas”, explicou Anthropic. Os pesquisadores da empresa chamaram essa região do sistema de “espaço J”, em homenagem ao Jacobiano, um método matemático que ajudou a descobri-lo.\n\nNo estudo sobre esse fenômeno, a palavra “consciente” é mencionada mais de duzentas vezes, embora a empresa ainda não afirme que a IA ganhou consciência. Quando os cientistas de Claude foram convidados a pensar na Ponte Golden Gate, conceitos como “ponte” e “Califórnia” foram fixados no espaço do sistema. Observar o “espaço J”, os cientistas estão confiantes, ajudará a detectar inconsistências no comportamento dos modelos. “Podemos entender o que Claude está pensando, mas não nos conta”, está confiante a Anthropic. E alguns dos resultados descobertos desta forma “causam”Em um modelo tacitamente treinado para sabotar a escrita de código antes de respostas comuns, conceitos como ‘falso’, ‘secreto’ e ‘trapaça’ emergem no ‘espaço J’ mesmo quando a resposta parece completamente normal”, concluíram os pesquisadores.\n