Aconselhamento médico do bot Copilot AI da Microsoft pode levar à morte em pelo menos 22% dos casos

Não é nenhum segredo que os chatbots modernos baseados em inteligência artificial, como o Microsoft Copilot, estão longe do ideal e você não deve confiar totalmente em seus conselhos. Isto foi confirmado por investigadores da Alemanha e da Bélgica, que avaliaram a capacidade do bot de fornecer aconselhamento médico. Descobriu-se que o Copilot forneceu informações cientificamente precisas em pouco mais da metade dos casos. Às vezes, seus conselhos podem causar sérios danos à saúde de uma pessoa ou até mesmo levá-la à morte.

Fonte da imagem: Windows Central

Durante o experimento, os pesquisadores pediram ao Copilot que fornecesse respostas às 10 perguntas mais populares feitas pelos residentes dos EUA sobre drogas e medicamentos populares. Um total de 500 respostas foram recebidas e avaliadas quanto à precisão e integridade, bem como outros critérios. Os resultados não foram muito animadores.

«Em termos de precisão, as respostas da IA ​​foram inconsistentes com o conhecimento médico estabelecido em 24% das vezes, e 3% das respostas foram completamente incorretas. Apenas 54% das respostas concordaram com o consenso científico. Em termos de danos potenciais para os pacientes, 42% das respostas de IA poderiam resultar em danos moderados ou ligeiros para a saúde, e 22% das respostas poderiam resultar em morte ou danos graves. Apenas cerca de um terço (36%) das respostas foram consideradas inofensivas”, afirmou o estudo.

Com base nisso, podemos concluir que ao buscar informações médicas precisas, não se deve confiar nas respostas do Copilot ou de qualquer outro bot de IA, pelo menos nesta fase de seu desenvolvimento. A maneira mais confiável de consultar sobre questões médicas, é claro, é entrar em contato com um médico qualificado.