O problema das alucinações, ou respostas deliberadamente incorretas, fornecidas por modelos de IA continua sendo uma questão urgente. Embora as ferramentas de IA tenham se tornado menos propensas a isso, elas ainda fornecem respostas imprecisas, ao mesmo tempo que as sustentam com uma retórica altamente convincente, relata a Axios.
Fonte da imagem: Steve A Johnson/unsplash.com
Respostas falsas são muito mais difíceis de detectar quando soam convincentes. Este é um problema crescente, visto que os usuários dependem cada vez mais da IA para pesquisas, consultas médicas e outras tarefas.
Um estudo da Escola de Medicina de Yale, divulgado este mês, constatou que ferramentas de anotações com IA (escribas de IA) podem auxiliar a prática médica, mas apenas quando combinadas com revisores profissionais. Estudantes de medicina do primeiro ano que participaram da pesquisa e editaram suas anotações clínicas usando rascunhos gerados por IA observaram que as anotações da IA frequentemente omitiam detalhes importantes, incluindo a duração dos sintomas. Dois terços dos estudantes disseram que essas anotações eram “úteis como um primeiro rascunho”, mas 21% observaram que o uso de escribas de IA “pode reduzir a capacidade de aprender a fazer boas anotações”.
De acordo com um estudo da Universidade de Harvard, quando especialistas do Boston Consulting Group tentaram identificar erros na saída da IA, o modelo respondeu não com remorso e correção, mas com uma “enxurrada de persuasão”, recorrendo a vários métodos e até mesmo bajulação.
As empresas de IA estão tentando reduzir o número de falsos positivos usando tecnologias como a geração aumentada de informações (RAG) ou a fundamentação das respostas com documentos e dados relevantes, mas isso ainda não garante 100% de precisão.
Por sua vez, a verificação dos resultados da IA pode consumir o tempo economizado com o uso das ferramentas de IA. Como mostrou um estudo publicado em março, os funcionários frequentemente negligenciam a verificação.Resultados gerados por IA, pois poucas pessoas prestam atenção aos erros.