Os chatbots de IA médica são especialistas em dar conselhos ruins

Nem todas as pessoas têm a oportunidade de visitar um médico ou um hospital, então o surgimento dos chatbots médicos deu esperança de acesso fácil e constante a aconselhamento médico qualificado. Certamente isso se tornará possível no futuro, mas até agora pesquisas mostraram que os chatbots médicos têm mais probabilidade de confundir os pacientes do que ajudá-los a resolver seus problemas de saúde.

Fonte da imagem: AI generation Grok 3/avalanche noticias

Um grupo de cientistas do centro de pesquisa Oxford Internet Institute da Universidade de Oxford, no Reino Unido, relatou o estado insatisfatório da qualificação médica da inteligência artificial. Para isso, eles forneceram a 1.300 voluntários cenários de várias doenças (sintomas) preparados por médicos profissionais e pediram que eles encontrassem respostas de forma independente na Internet, incluindo a comunicação com chatbots médicos.

«O estudo revelou uma interrupção na comunicação bidirecional, disseram os autores do trabalho. “Aqueles que usaram [chatbots] não tomaram decisões melhores do que os participantes que confiaram em métodos tradicionais, como pesquisas online ou em seu próprio julgamento.”

Os usuários aproveitaram habilidades pessoais, informações básicas e consultas com modelos médicos de linguagem de grande porte, como ChatGPT, GPT-4o, bem como Command R+ da Cohere e Llama 3 da Meta✴. Análises subsequentes mostraram que as interações com chatbots reduziram a probabilidade de diagnóstico correto e levaram à subestimação da gravidade do problema de saúde.

Os pesquisadores notaram que os participantes do experimento frequentemente omitiam detalhes importantes ao falar com os chatbots ou recebiam respostas difíceis de interpretar. Em sua forma atual, observam os pesquisadores, usar IA médica de fontes abertas não é apenas desnecessário, mas muitas vezes prejudicial.

Você não deve se automedicar, e o diagnóstico usando chatbots é pura automedicação. Se você notar algum problema de saúde, entre em contato com um especialista humano. E se algum dia for permitido que chatbots médicos façam diagnósticos médicos reais, isso só será feito após testes clínicos, assim como acontece hoje com novos medicamentos.