A Qualcomm apresentará seus processadores Snapdragon 8 Gen 6, incluindo duas versões Elite de ponta, no Snapdragon Summit em 22 de setembro. Embora os nomes exatos dos novos chips ainda sejam um mistério, a Qualcomm está revelando gradualmente informações relacionadas.
Fonte da imagem: qualcomm.com
A empresa já havia apresentado uma arquitetura de núcleo de processador Oryon atualizada, que permitirá que seus chips para dispositivos móveis operem em frequências acima de 5 GHz. Além disso, alguns detalhes foram revelados sobre o subsistema gráfico atualizado com tecnologia aprimorada de escalonamento de quadros. Agora, a fornecedora revelou informações sobre melhorias na unidade de processamento de rede neural (NPU), responsável pelo processamento de tarefas de inteligência artificial.
A NPU Hexagon de nova geração foi projetada para executar aplicativos de IA no dispositivo local, principalmente agentes de IA. De acordo com a Qualcomm, as principais melhorias na NPU incluem um Acelerador de Elementos atualizado e um aumento significativo na capacidade de memória. O Acelerador de Elementos é um componente especializado que agora está localizado próximo às unidades de processamento escalar, vetorial e tensorial.
A Qualcomm afirmou que ele foi projetado para acelerar algoritmos generativos, permitindo que os agentes de IA respondam mais rapidamente e raciocinem com mais eficiência, proporcionando uma experiência de usuário mais rica sem consumo adicional de energia. O fornecedor ainda não divulgou as especificações exatas da NPU, mas sabe-se que ela terá mais memória dedicada, o que reduzirá a dependência da RAM principal do dispositivo para a troca de dados em cache. Simplificando, a NPU poderá armazenar mais contexto na memória, criando assim mais espaço para cargas de trabalho mais pesadas, especialmente na execução de tarefas baseadas em agentes.
A Qualcomm também anunciou que a NPU Hexagon suporta uma nova arquitetura de IA projetada especificamente para modelos de Mistura de Especialistas (MoE). Isso significa que modelos maiores podem ser executados no dispositivo usando apenas um subconjunto de parâmetros, por meio de um modelo chamado “roteado”. O MoE roteia consultas por meio de modelos especialistas com base nos dados de entrada, reduzindo os requisitos de computação e o consumo de memória. A Qualcomm afirmou que a nova arquitetura permitirá a execução local de modelos de IA com até 30 bilhões de parâmetros.
A Qualcomm também anunciou que a nova NPU oferece “desempenho de pré-processamento até 50% maior, maior taxa de transferência de decodificação” e uma série de outras melhorias. Deve-se notar que essas afirmações se aplicam a modelos de IA que suportam o modo de computação INT4 e não indicam um aumento de 50% no desempenho geral do módulo de IA. No entanto, a nova NPU permitirá que os modelos de IA processem consultas com mais rapidez e eficiência, além de executar tarefas em vários estágios.
A melhoria mais notável está relacionada ao aumento de desempenho na execução local de agentes de IA. A Qualcomm afirmou que as melhorias nos novos chipsets Snapdragon Elite, em conjunto, tornarão os fluxos de trabalho de agentes reais, e não apenas as consultas tradicionais de IA, “mais eficientes e responsivos” diretamente no dispositivo.