A AMD publicou seus próprios testes de desempenho de IA do processador móvel Ryzen 7 7840U com consumo nominal de energia de 15 W e do concorrente Intel Core Ultra 7 155H com TDP de 28 W ao trabalhar com modelos de linguagem grande (LLM) Llama 2 e Mistral Instrua 7B. A comparação não foi a favor do chip Intel. Apesar do menor consumo de energia, o processador AMD revelou-se mais eficiente.
Para comparar os dois chips, a AMD instalou o aplicativo LM Studio em laptops com processadores concorrentes para trabalhar com modelos de linguagens diferentes. Estes últimos foram encarregados de escrever uma história, escrever um roteiro de jogo usando o motor Unity e também escrever um poema. Para completar as tarefas, foram utilizados os modelos de IA Llama 2 7B da Meta✴ e Mistral Instruct 7B com suporte para 7 bilhões de parâmetros. Este último é um desenvolvimento de pessoas da Meta✴ e DeepMind.
Como indicador do desempenho da IA, a AMD considerou o tempo desde o momento em que a solicitação foi enviada até o início da resposta (Tempo até o primeiro token), bem como o número de tokens emitidos por segundo. A empresa lembrou que para resolver problemas de IA, os processadores Ryzen podem usar três tipos de núcleos: um motor especial de IA NPU, um núcleo gráfico integrado RDNA 3, bem como núcleos de computação Zen 4. Segundo a AMD, o Ryzen 7 7840U tem um desempenho vencedor. resultado contra seu concorrente nessas tarefas O suporte do chip para instruções AVX512 e VNNI também contribuiu para isso. Anteriormente, a Intel também fornecia suporte para essas instruções em chips de consumo, mas desde então abandonou isso.
Em meio à divulgação dos testes internos, a AMD também postou em seu blog oficial como executar a ferramenta LM Studio para trabalhar com diversos modelos de linguagem em PCs com processadores Ryzen AI ou PCs com placas gráficas Radeon RX 7000, descrevendo tudo em forma de um detalhado guia.
De acordo com Tom’s Hardware, a Intel está bem ciente do desempenho relativamente baixo de IA de sua família de processadores Meteor Lake. É por isso que a empresa já anunciou que os futuros processadores Arrow Lake e Lunar Lake, com lançamento previsto para o segundo semestre deste ano, oferecerão três vezes o desempenho de IA de GPUs e NPUs.
A Zotac anunciou sua entrada no mercado de equipamentos de classe empresarial com o lançamento…
O desenvolvedor canadense de chips Tenstorrent, liderado pelo lendário Jim Keller, finalmente apresentou suas primeiras…
Como prometido, em 15 de março, foi lançada uma versão demo da ambiciosa modificação Dark…
A Western Digital lançou unidades de estado sólido PC SN5000S baseadas em chips de memória…
O carregamento sem fio é conveniente, mas tem baixa eficiência. Isto não é um problema…
Dois ex-funcionários da Blue Origin, o presidente Rob Meyerson e o designer-chefe Gary Lai, fundaram…