A AMD simplificou o uso de NPUs em aplicativos – o compilador aberto LLVM Peano foi lançado para Ryzen com XDNA e XDNA2

Com os processadores Ryzen 7000 (Phoenix), a AMD estreou motores Xilinx AI integrados ou NPUs (XDNA) com desempenho de até 10 TOPS. Foi seguido pelo Ryzen 8000 (Hawk Point) com desempenho de NPU de até 16 TOPS. Mas foi só com o anúncio da série 50 TOPS Ryzen AI 300 Strix Point (XDNA2) que a AMD lançou um compilador LLVM de código aberto personalizado chamado Peano.

Fonte da imagem: AMD

O projeto Peano deverá estimular o desenvolvimento de aplicações para NPUs AMD, que poderão usar esses novos processadores para acelerar modelos de grandes linguagens. Em particular, a AMD demonstrou como usar sistemas baseados em Ryzen e Radeon com ferramentas como LM Studio. A empresa também apresentou vários exemplos de uso de processadores Ryzen AI para desenvolvimento de software, embora estes não sejam destinados a usuários finais.

As NPUs incorporadas continuarão a crescer em importância à medida que AMD, Intel e Qualcomm entram na corrida pelo acelerador de IA mais rápido. A AMD precisa se atualizar, já que a Intel lançou seu software NPU mais rapidamente. No kernel Linux, as instruções para Meteor Lake NPU apareceram antes do lançamento da nova arquitetura, e o código-fonte do plugin NPU está disponível na plataforma OpenVINO. Como ambas as empresas oferecem compiladores e software de código aberto aos usuários finais, será mais fácil para os desenvolvedores oferecerem soluções para vários fornecedores. Não há informações sobre tais desenvolvimentos para a série Snapdragon X.

«Em nome da AMD, tenho o prazer de anunciar o código aberto do back-end LLVM para processadores AMD/Xilinx AI Engine. Esses processadores existem em muitos dispositivos, incluindo o Ryzen AI SoC. Atualmente, o repositório está focado no suporte à arquitetura AIE2 implementada pelos aceleradores XDNA em dispositivos Phoenix e Hawk Point. Observe que esses aceleradores incluem uma matriz de processadores, enquanto o backend LLVM oferece suporte apenas a um único processador. O suporte a dispositivos em geral está disponível em ferramentas de código aberto baseadas em MLIR”, comentou o engenheiro-chefe da AMD/Xilinx, Stephen Neuendorffer, sobre o lançamento do compilador.