Os novos chips Snapdragon permitirão transferir modelos de IA para dispositivos locais – desenvolvedores de software apenas para

No Snapdragon Summit, a Qualcomm revelou processadores de última geração para PCs e telefones. Sua característica distintiva são os aceleradores integrados para algoritmos de inteligência artificial – o desenvolvedor se concentra na operação local de redes neurais.

Fonte da imagem: Qualcomm

As plataformas Snapdragon X Elite para PC e Snapdragon 8 Gen 3 para telefones estão equipadas com poderosas unidades de processamento neural (NPUs) que podem executar localmente os modelos Snapdragon X Elite para PC e Snapdragon 8 Gen 3 Stable Diffusion AI. “Estamos entrando em uma era de IA [onde] a IA generativa em dispositivos desempenhará um papel crítico no fornecimento de experiências poderosas, rápidas, personalizadas, eficientes, seguras e altamente otimizadas. O Snapdragon está em uma posição única para moldar e se beneficiar do potencial da IA ​​nos dispositivos, e você verá a IA generativa aplicada praticamente em todos os lugares onde o Snapdragon estiver”, disse o CEO da Qualcomm, Cristiano Amon.

Em um PC com Windows, o desenvolvedor demonstrou o lançamento local de chatbots com desempenho de 30 tokens por segundo. Nos smartphones, um gerador de imagens baseado no modelo de difusão estável cria localmente uma imagem em cerca de um segundo. A empresa demonstrou essa tecnologia em um protótipo ainda antes – no inverno passado. A execução de modelos generativos de IA localmente no dispositivo, de acordo com a Qualcomm, proporciona personalização, privacidade, segurança, economia de energia, capacidade de resposta e baixo custo. No caso do Stable Diffusion, isso significa um segundo para gerar uma imagem em vez de um minuto na nuvem, e também privacidade, já que não há troca de dados com recursos externos.

Vários parceiros da empresa prometeram otimizar suas plataformas de IA para chips Qualcomm, incluindo Baidu, Bloom, Meta✴, Microsoft, OpenAI, RWKV e Youdao. Dispositivos baseados nas plataformas Snapdragon X Elite e Snapdragon 8 Gen 3 chegarão ao mercado no início do próximo ano.

avalanche

Postagens recentes

Tencent lança modelo de IA de código aberto que cria mundos 3D inteiros a partir de uma única imagem

Esta semana, a empresa chinesa Tencent revelou um novo modelo de IA de código aberto,…

1 hora atrás

AMD diz que ainda não consegue atender à demanda por suas placas gráficas

Estatísticas publicadas recentemente pela Jon Peddie Research afirmam que a participação da AMD no mercado…

6 horas atrás

A NVIDIA gastará US$ 1,5 bilhão para alugar seus próprios aceleradores de IA da Lambda, na qual investiu

A NVIDIA, fornecedora e investidora da Lambda, tornou-se sua maior cliente. De acordo com o…

12 horas atrás

OpenAI reorganiza equipe de comportamento de IA após críticas ao GPT-5

A OpenAI reorganizou sua equipe de Comportamento de Modelos, responsável pelas características comportamentais dos modelos…

13 horas atrás

Novo artigo: Pastoreio – uma montanha de emoções. Resenha

O estúdio que nos proporcionou os incrivelmente atmosféricos FAR: Lone Sails e FAR: Changing Tides…

14 horas atrás