AMD e Xilinx anunciam acelerador de IA VCK5000 atualizado

Anteriormente, os FPGAs Versal da Xilinx já adquiriram suporte para HBM2e e, com base neste FPGA carro-chefe, foi criada uma plataforma para sistemas de inferência VCK5000. Agora a AMD anunciou uma versão nova e significativamente melhorada desta plataforma. É verdade que não se fala em usar assemblies com memória HBM, isso ainda é prerrogativa da série Alveo. De acordo com as declarações da empresa, a nova versão é três vezes mais rápida que a original, e o custo total de propriedade (TCO) é duas vezes mais lucrativo que o NVIDIA T4.

O último não é surpreendente, já que o T4 traça seu pedigree de GPUs clássicas e, carregando não apenas 320 núcleos tensores, mas também 2560 núcleos CUDA, não possui alta eficiência energética em todas as tarefas. Segundo a Xilinx, o VCK5000 pode atingir 90% do desempenho teórico (em Tops), enquanto para as soluções NVIDIA, segundo os “vermelhos”, esse valor varia entre 34-42%. No entanto, T4 é substituído por A2.

No coração do VCK5000 está a última variação do Versal ACAP (7 nm), otimizada para uso em sistemas de IA. Foi nos algoritmos de inferência que o desempenho da nova versão foi aumentado em 3 vezes. A AMD diz que a nova versão conseguiu minimizar os blocos lógicos ociosos à espera de dados da memória, quase se livrando do “silício escuro”.

O acelerador é feito na forma de uma placa de expansão de dois slots de tamanho normal com PCIe 4.0 x8. Possui TDP configurável (de 75 a 225 W), é equipado com 16 GB de memória DDR4, conectividade de 100 GbE (dois QSFP28) e desenvolve até 125 TOPS em operações INT8 em uma frequência central de 1,25 GHz. O desempenho máximo teórico da novidade é de 145 Topps. Isso é comparável ao NVIDIA T4 (130 Tops), assim como o preço – $ 2.745 vs. $ 2.410.

O principal objetivo do AMD VCK5000 é utilizá-lo como plataforma de teste no desenvolvimento de sistemas de inferência e sistemas de processamento de sinais digitais baseados em FPGA. Mas graças à flexibilidade proporcionada pelo uso do FPGA, nada impede que este acelerador seja utilizado para outros fins. Também é óbvio que com a aquisição dos ativos da Xilinx, a AMD continuará a desenvolver ativamente a direção dos aceleradores FPGA para várias tarefas, incluindo HPC.