Os novos chips Snapdragon permitirão transferir modelos de IA para dispositivos locais – desenvolvedores de software apenas para

No Snapdragon Summit, a Qualcomm revelou processadores de última geração para PCs e telefones. Sua característica distintiva são os aceleradores integrados para algoritmos de inteligência artificial – o desenvolvedor se concentra na operação local de redes neurais.

Fonte da imagem: Qualcomm

As plataformas Snapdragon X Elite para PC e Snapdragon 8 Gen 3 para telefones estão equipadas com poderosas unidades de processamento neural (NPUs) que podem executar localmente os modelos Snapdragon X Elite para PC e Snapdragon 8 Gen 3 Stable Diffusion AI. “Estamos entrando em uma era de IA [onde] a IA generativa em dispositivos desempenhará um papel crítico no fornecimento de experiências poderosas, rápidas, personalizadas, eficientes, seguras e altamente otimizadas. O Snapdragon está em uma posição única para moldar e se beneficiar do potencial da IA ​​nos dispositivos, e você verá a IA generativa aplicada praticamente em todos os lugares onde o Snapdragon estiver”, disse o CEO da Qualcomm, Cristiano Amon.

Em um PC com Windows, o desenvolvedor demonstrou o lançamento local de chatbots com desempenho de 30 tokens por segundo. Nos smartphones, um gerador de imagens baseado no modelo de difusão estável cria localmente uma imagem em cerca de um segundo. A empresa demonstrou essa tecnologia em um protótipo ainda antes – no inverno passado. A execução de modelos generativos de IA localmente no dispositivo, de acordo com a Qualcomm, proporciona personalização, privacidade, segurança, economia de energia, capacidade de resposta e baixo custo. No caso do Stable Diffusion, isso significa um segundo para gerar uma imagem em vez de um minuto na nuvem, e também privacidade, já que não há troca de dados com recursos externos.

Vários parceiros da empresa prometeram otimizar suas plataformas de IA para chips Qualcomm, incluindo Baidu, Bloom, Meta✴, Microsoft, OpenAI, RWKV e Youdao. Dispositivos baseados nas plataformas Snapdragon X Elite e Snapdragon 8 Gen 3 chegarão ao mercado no início do próximo ano.