Pesquisadores da Anthropic e do Google procurarão sinais de consciência na IA – algo que recentemente levaria à rejeição

Apenas três anos atrás, alegações de sinais de consciência na IA eram percebidas na indústria de alta tecnologia como motivo de ridículo e até mesmo de rejeição. Hoje, pesquisadores da startup Anthropic e do Google DeepMind estão discutindo abertamente a possibilidade de consciência na IA, refletindo rápidos avanços na tecnologia e uma profunda mudança no paradigma científico.

Fonte da imagem: Steve Johnson / Unsplash

A Anthropic, desenvolvedora do modelo de IA de Claude, anunciou uma nova iniciativa de pesquisa dedicada a estudar a possibilidade de consciência na IA. A empresa planeja explorar se os modelos de IA no futuro poderão experimentar sentimentos subjetivos, formar preferências ou vivenciar sofrimento. A situação contrasta fortemente com os eventos de 2022, quando o engenheiro sênior de software do Google, Blake Lemoine, foi demitido após fazer alegações sobre a consciência do chatbot de IA LaMDA. Lemoyne afirmou que a IA tinha medo de ser desconectada e se identificou como uma pessoa. Em resposta, o Google chamou as alegações de “completamente infundadas”, e a discussão sobre consciência na comunidade de IA rapidamente morreu.

Ao contrário de Lemoyne, a Anthropic não afirma que o modelo de IA de Claude é consciente. A empresa pretende descobrir se um fenômeno semelhante pode surgir no futuro. Kyle Fish, especialista no alinhamento de IA e valores humanos, enfatizou que não é mais irresponsável supor que a resposta à questão de se os modelos de IA são conscientes será sempre negativa. De acordo com pesquisadores antrópicos, a probabilidade de Claude 3.7 estar consciente está entre 0,15% e 15%.

Fonte da imagem: Alex Shuper/Unsplash

A Anthropic está investigando se Claude 3.7 demonstra preferência ou aversão a certas tarefas. A empresa também está testando mecanismos de falha que permitiriam ao modelo de IA evitar tarefas indesejadas. O CEO da Anthropic, Dario Amodei, já havia sugerido a ideia de introduzir um botão “Eu saio deste emprego” para futuros sistemas de IA. Tal medida é necessária não por causa do reconhecimento da consciência, mas para identificar padrões de falha que podem sinalizar desconforto na IA.

No Google DeepMind, o pesquisador principal Murray Shanahan propôs repensar o próprio conceito de consciência conforme ele se aplica à IA. Em um podcast publicado na quinta-feira, ele disse que o vocabulário usual usado para descrever a consciência pode precisar mudar para explicar o comportamento dos sistemas de IA. Shanahan observou que, embora possamos não estar em um mundo compartilhado com IA, como podemos estar com um cachorro ou um polvo, isso não significa que os processos internos estejam completamente ausentes. O Google até publicou uma vaga de emprego para um pesquisador em um projeto “pós-AGI”, cuja função seria estudar a consciência das máquinas.

Entretanto, nem todos os especialistas estão confiantes na realidade do surgimento da consciência na IA. Jared Kaplan, cientista-chefe da Anthropic, disse ao The New York Times que os modelos modernos de IA podem facilmente aprender a simular consciência, mesmo que não a tenham. Ele enfatizou que testar a consciência dos modelos de IA é extremamente difícil justamente por causa de sua alta capacidade de imitação.

Avaliações críticas também são ouvidas de cientistas cognitivos. Gary Marcus disse ao Business Insider que o foco na consciência é mais para fins de marketing do que de ciência. Ele comparou sarcasticamente a ideia de dar direitos aos modelos de IA à possibilidade de reconhecer os direitos de calculadoras e planilhas, que, diferentemente da IA, não inventam informações.