Alucinações e erros de IA podem levar a descobertas científicas

A inteligência artificial (IA), que pode criar informações falsas ou fictícias de forma convincente, pode tornar-se uma ferramenta indispensável nas mãos dos cientistas. Novos medicamentos, previsões meteorológicas e invenções de dispositivos são apenas alguns exemplos de como a capacidade da IA ​​de gerar ideias novas e aparentemente falhas pode mudar o mundo da ciência.

Fonte da imagem: Copiloto

Os modelos de IA são frequentemente criticados pela sua tendência a gerar informações falsas, fazendo-as passar por factos – as chamadas “alucinações”. Essas falsificações verossímeis não apenas confundem os usuários do chatbot, mas também levam a ações judiciais e erros nos registros médicos. Por exemplo, no ano passado, uma afirmação falsa de um chatbot do Google fez com que o valor de mercado de uma empresa caísse em 100 mil milhões de dólares. No entanto, de acordo com o The New York Times, investigadores descobriram recentemente que as “alucinações” de IA também podem ser surpreendentemente úteis.

Acontece que os LLMs (modelos de linguagem grande) inteligentes podem gerar ideias incríveis que ajudam os cientistas a combater o cancro, a desenvolver novos medicamentos, a criar dispositivos médicos, a estudar fenómenos meteorológicos e até a ganhar um Prémio Nobel. “Isto dá aos cientistas novas ideias que talvez nunca tivessem criado por si próprios”, explica Amy McGovern, chefe do NSF AI Institute nos EUA para previsão do clima e do tempo.

Embora a ciência seja tradicionalmente associada à lógica e à análise, o seu início está frequentemente associado à intuição e a suposições ousadas. O filósofo e metodologista científico Paul Feyerabend descreveu certa vez esse estágio como “vale tudo”. Erros nos modelos de IA animam este processo criativo, acelerando a descoberta e o teste de novas ideias. O que antes demorava anos agora pode ser feito em dias, horas ou até minutos. James J. Collins, professor do Instituto de Tecnologia de Massachusetts (MIT), elogiou recentemente as alucinações por acelerar sua pesquisa em novos antibióticos, à medida que modelos de IA criavam moléculas inteiramente novas.

«As alucinações de IA ocorrem quando os cientistas treinam modelos computacionais generativos sobre um determinado tópico e depois permitem que as máquinas processem as informações. Os resultados podem ser absurdos e engenhosos. Por exemplo, em outubro de 2023, o Prémio Nobel da Química foi atribuído a David Baker pela sua investigação na área das proteínas. A sua abordagem, que utiliza IA para criar proteínas inteiramente novas, era anteriormente considerada quase impossível. Baker observou que a geração de IA se tornou a base para o desenvolvimento de “proteínas do zero”. “Criamos 10 milhões de novas proteínas que não existem na natureza”, afirma o cientista. Ao mesmo tempo, seu laboratório já recebeu cerca de 100 patentes, entre tecnologias para tratamento de câncer e combate a infecções virais.

No entanto, o termo “alucinações” é controverso. Muitas pessoas preferem chamar os resultados da IA ​​de suposições ou ideias visionárias porque muitas vezes se baseiam em dados científicos reais. Por exemplo, Anima Anandkumar, professor do Caltech, acredita que usar o termo “alucinações” pode ser enganoso e observa que os cientistas tentam evitá-lo.

É importante notar que alguns especialistas estão preocupados com o facto de o ritmo das descobertas científicas ter abrandado nas últimas décadas. No entanto, os proponentes da IA ​​argumentam que novas capacidades podem levar a ciência a outro nível. Em particular, Baker e os seus colegas prevêem um futuro em que os catalisadores proteicos aproveitem a energia solar, modernizem as fábricas e ajudem a criar um mundo sustentável.

Outros cientistas também partilham deste optimismo. “É incrível a rapidez com que as coisas estão acontecendo”, diz Ian C. Haydon, membro da equipe de Baker. E Pushmeet Kohli, da DeepMind, enfatiza que a IA é capaz de movimentos inesperados, mas engenhosos. “Temos claramente uma ferramenta incrível que pode ser criativa”, concluiu.

Apesar dos avanços, as “alucinações” da inteligência artificial continuam a ser um tema controverso. Embora alguns cientistas os vejam como uma ferramenta útil, outros desconfiam das suas consequências negativas, como erros em dados médicos. No entanto, a comunidade científica reconhece que o potencial da IA ​​para acelerar as descobertas científicas é enorme.