A AMD publicou seus próprios testes de desempenho de IA do processador móvel Ryzen 7 7840U com consumo nominal de energia de 15 W e do concorrente Intel Core Ultra 7 155H com TDP de 28 W ao trabalhar com modelos de linguagem grande (LLM) Llama 2 e Mistral Instrua 7B. A comparação não foi a favor do chip Intel. Apesar do menor consumo de energia, o processador AMD revelou-se mais eficiente.
Fonte da imagem: AMD
Para comparar os dois chips, a AMD instalou o aplicativo LM Studio em laptops com processadores concorrentes para trabalhar com modelos de linguagens diferentes. Estes últimos foram encarregados de escrever uma história, escrever um roteiro de jogo usando o motor Unity e também escrever um poema. Para completar as tarefas, foram utilizados os modelos de IA Llama 2 7B da Meta✴ e Mistral Instruct 7B com suporte para 7 bilhões de parâmetros. Este último é um desenvolvimento de pessoas da Meta✴ e DeepMind.
Como indicador do desempenho da IA, a AMD considerou o tempo desde o momento em que a solicitação foi enviada até o início da resposta (Tempo até o primeiro token), bem como o número de tokens emitidos por segundo. A empresa lembrou que para resolver problemas de IA, os processadores Ryzen podem usar três tipos de núcleos: um motor especial de IA NPU, um núcleo gráfico integrado RDNA 3, bem como núcleos de computação Zen 4. Segundo a AMD, o Ryzen 7 7840U tem um desempenho vencedor. resultado contra seu concorrente nessas tarefas O suporte do chip para instruções AVX512 e VNNI também contribuiu para isso. Anteriormente, a Intel também fornecia suporte para essas instruções em chips de consumo, mas desde então abandonou isso.
Em meio à divulgação dos testes internos, a AMD também postou em seu blog oficial como executar a ferramenta LM Studio para trabalhar com diversos modelos de linguagem em PCs com processadores Ryzen AI ou PCs com placas gráficas Radeon RX 7000, descrevendo tudo em forma de um detalhado guia.
De acordo com Tom’s Hardware, a Intel está bem ciente do desempenho relativamente baixo de IA de sua família de processadores Meteor Lake. É por isso que a empresa já anunciou que os futuros processadores Arrow Lake e Lunar Lake, com lançamento previsto para o segundo semestre deste ano, oferecerão três vezes o desempenho de IA de GPUs e NPUs.