AMD mostrou como lançar o modelo de pensamento Deepseek R1 em um PC comum

A AMD publicou instruções para o lançamento local do Modelo Avançado do Deepseek R1 AI com a capacidade de refletir sobre os PCs do usuário. É verdade que um sistema é necessário no processador Ryzen com o AI Accelerator (NPU) xDNA ou um computador com uma placa de vídeo Radeon RX 7000.

Fonte da imagem: AMD

Alega -se que apenas recentemente foi apresentada uma versão pequena “altamente eficaz” do modelo Deepseek R1 AI, o que é compacto o suficiente para trabalhar em equipamentos de consumo. Vale a pena notar que, em geral, os modelos Deepseek diferem em pequenas solicitações amarelas-por exemplo, o modelo Deepseek-V3 estudou inicialmente em um cluster acelerador NVIDIA H800.

As instruções da AMD descrevem tudo o que é necessário para o lançamento local do Deepseek R1 no sistema de usuários com base no hardware da AMD. O LM Studio possui um instalador de grandes modelos de idiomas em um clique especialmente projetado para processadores Ryzen AI. Os usuários da AMD podem usá -lo para a instalação R1. No vídeo, a empresa também mostra como o aplicativo deve ser configurado para equipamentos específicos e também explica como o número máximo de parâmetros LLM é suportado por um ou outro equipamento.

Este último depende amplamente da quantidade de memória acessível. Por exemplo, o Radeon RX 7600 XT, RX 7700 XT, RX 7800 XT, RX 7900 GRE e RX 7900 XT Modelos para Deepseek-R1-Distill-Qwen-14b com 14 bilhões de parâmetros. O principal mapa Radeon RX 7900 XTX permite iniciar modelos para Deepseek-R1-Distill-Qwen-32b com 32 bilhões de parâmetros. E o modelo Radeon RX 7600, que possui apenas 8 GB de memória a bordo, suporta o lançamento de modelos para Deepseek-R1-Distill-LLama-8b com 8 bilhões de parâmetros.

Laptops baseados nos processadores Ryzen 8040 e Ryzen 7040 com 32 GB de RAM, bem como sistemas baseados nos processadores Ryzen AI 9 HX 370 e Ryzen AI 9 365, equipados com RAM, podem executar modelos para Deepseek-R1-Distill-Lalama -14b. Os laptops baseados nos modelos de suporte Ryzen AI Max+ 395 para Deepseek-R1-Distill-LLAMA-70B com 70 bilhões de parâmetros, mas apenas se houver 64 ou 128 GB de RAMs. Versões de laptopos com 32 GB de memória podem iniciar modelos para Deepseek-R1-Distill-Qwen-32b com 32 bilhões de parâmetros.

O novo modelo de inteligência artificial Deepseek R1 derrotou todo o mundo da noite para o dia, pois os custos de seu treinamento foram 11 vezes inferiores aos dos modelos avançados de concorrentes de IA. Dois dias atrás, causou uma perda recorde de capitalização de mercado da NVIDIA no valor de US $ 589 bilhões. O modelo Deepseek R1 depende de níveis de otimização extrema para garantir 11 vezes um aumento de eficiência. O Depseek R1 funciona não apenas nos aceleradores da NVIDIA e da AMD, mas também relata apoiar os aceleradores da subida da Huawei.