O modelo de IA do mecanismo de busca do Google foi incapaz de reconhecer e contar letras em palavras. Por exemplo, contou dois “P”s na palavra “Google”. E esse não é o único erro desse tipo, segundo o TechCrunch.
Fonte da imagem: techcrunch.com
O público não se mostrou entusiasmado com a grande atualização do mecanismo de busca do Google, e não é a primeira vez. O Google já havia sido alvo de ridículo, sátira e paródia quando o recurso “AI Reviews” começou a aconselhar os usuários a comer pedras e passar cola na pizza — dispensando paródias. Mas a própria empresa considera esses erros naturais. “Contar [letras] em palavras é um problema conhecido para grandes modelos de linguagem, e estamos trabalhando em uma solução para esse problema específico”, afirmou a empresa.
Grandes modelos de linguagem, que alimentam chatbots e outros geradores de texto, não são projetados para análise ortográfica. Eles podem escrever frases em segundos e resolver problemas matemáticos que intrigam cientistas há décadas, mas suas habilidades ortográficas são pouco melhores do que as de uma criança do jardim de infância. Às vezes, eles têm dificuldade em interpretar significados: descobriu-se recentemente que a IA de busca do Google percebe a palavra “ignore” não como uma consulta, mas como uma ordem.
A IA não percebe frases como unidades linguísticas compostas por palavras e letras. Os chatbots são construídos principalmente com base em modelos Transformer que dividem o texto em tokens — palavras, sílabas e letras — e não leem como humanos, mas convertem o texto em suas próprias representações numéricas e levam em consideração o contexto para produzir uma resposta lógica. Essas são limitações arquitetônicas, e os pesquisadores não estão otimistas quanto à solução do problema da ortografia. A prioridade da tarefa também é baixa: a utilidade de um modelo de linguagem complexo não reside em sua capacidade de soletrar corretamente. Essas deficiências contribuem paraÉ importante compreender que a IA não é perfeita, mesmo que por vezes pareça ser uma máquina onisciente, um nível inatingível para os humanos. Portanto, não se deve confiar cegamente nas respostas da IA.