O Google ocultou avaliações de IA com recomendações médicas “alarmantes”.

O Google removeu discretamente o recurso Visão Geral por IA de seu mecanismo de busca para determinadas consultas relacionadas a tópicos médicos e testes de função hepática. Descobriu-se que a IA estava usando intervalos de referência simplificados para testes de função hepática, sem contexto importante, como idade, sexo ou etnia.

Fonte da imagem: Shutter Speed ​​/ Unsplash

As avaliações de IA são blocos especiais de resultados de pesquisa gerados pela inteligência artificial do Google. A empresa tinha como objetivo acelerar as buscas, fornecendo um breve resumo de uma determinada pergunta, gerado por uma rede neural, em vez da lista usual de links. No entanto, especialistas descreveram as respostas da IA ​​a perguntas relacionadas à saúde como “alarmantes” e “perigosas”.

Por exemplo, a IA forneceu intervalos de referência para exames de função hepática sem observar que esses valores podem variar significativamente dependendo da idade, sexo ou etnia da pessoa. Tal erro poderia confundir alguém com uma doença hepática grave e impedi-lo de receber atendimento médico oportuno.

O Google já removeu as avaliações de IA para consultas de pesquisa específicas que foram sinalizadas como inadequadas, como “qual é o intervalo de referência para um exame de sangue de função hepática”. Um porta-voz da empresa afirmou que o Google está agindo de acordo com suas políticas e fazendo “ampla melhoria”.

No entanto, mesmo uma pequena alteração na formulação de uma pergunta sobre saúde ainda pode resultar em uma resposta incorreta da IA. Isso demonstra que a segurança do sistema é bastante limitada. Vanessa Hebditch, da British Liver Foundation, observou que pequenas alterações na consulta de pesquisa, como o uso da frase “intervalo de referência para testes de função hepática”, ainda resultavam nas mesmas respostas incorretas.

Quando se trata de informações médicas, a precisão é fundamental. Todo o sistema existenteO diagnóstico médico depende de contexto, probabilidades e exceções — áreas em que os grandes modelos de linguagem ainda encontram dificuldades. Parece que a inteligência artificial do Google ainda não está pronta para se tornar um médico completo.