A IA tornou-se menos propensa a alucinações, mas ainda apresenta mentiras como verdades com muita convicção.

O problema das alucinações, ou respostas deliberadamente incorretas, fornecidas por modelos de IA continua sendo uma questão urgente. Embora as ferramentas de IA tenham se tornado menos propensas a isso, elas ainda fornecem respostas imprecisas, ao mesmo tempo que as sustentam com uma retórica altamente convincente, relata a Axios.

Fonte da imagem: Steve A Johnson/unsplash.com

Respostas falsas são muito mais difíceis de detectar quando soam convincentes. Este é um problema crescente, visto que os usuários dependem cada vez mais da IA ​​para pesquisas, consultas médicas e outras tarefas.

Um estudo da Escola de Medicina de Yale, divulgado este mês, constatou que ferramentas de anotações com IA (escribas de IA) podem auxiliar a prática médica, mas apenas quando combinadas com revisores profissionais. Estudantes de medicina do primeiro ano que participaram da pesquisa e editaram suas anotações clínicas usando rascunhos gerados por IA observaram que as anotações da IA ​​frequentemente omitiam detalhes importantes, incluindo a duração dos sintomas. Dois terços dos estudantes disseram que essas anotações eram “úteis como um primeiro rascunho”, mas 21% observaram que o uso de escribas de IA “pode ​​reduzir a capacidade de aprender a fazer boas anotações”.

De acordo com um estudo da Universidade de Harvard, quando especialistas do Boston Consulting Group tentaram identificar erros na saída da IA, o modelo respondeu não com remorso e correção, mas com uma “enxurrada de persuasão”, recorrendo a vários métodos e até mesmo bajulação.

As empresas de IA estão tentando reduzir o número de falsos positivos usando tecnologias como a geração aumentada de informações (RAG) ou a fundamentação das respostas com documentos e dados relevantes, mas isso ainda não garante 100% de precisão.

Por sua vez, a verificação dos resultados da IA ​​pode consumir o tempo economizado com o uso das ferramentas de IA. Como mostrou um estudo publicado em março, os funcionários frequentemente negligenciam a verificação.Resultados gerados por IA, pois poucas pessoas prestam atenção aos erros.