Hoje, outra versão do benchmark MLPerf Training foi lançada para avaliar o desempenho dos aceleradores de IA em vários cenários que são o mais próximo possível do real. No total, a versão 2.0 inclui 8 testes diferentes em quatro categorias.
NVDIA é um participante de longa data e mais ativo no projeto MLPerf, e é o resultado de vários sistemas baseados em aceleradores NVIDIA que compõem 90% da classificação total. É também o único participante que participa de forma consistente em todas as disciplinas. Na nova versão do MLPerf 2.0, os aceleradores NVIDIA A100 foram novamente os únicos que cobriram todos os testes.
Os resultados mais recentes do A100 em MLPerf 2.0. Fonte: NVIDIA
E o supercomputador Selene ainda mostrou liderança em seis das oito disciplinas MLPerf, dando lugar apenas para Intel Habana Gaudi 2 no teste RN-50 e Google TPU v4 no teste RetinaNet. No total, 16 parceiros com suas plataformas participaram da corrida da NVIDIA, incluindo empresas conhecidas como ASUS, Baidu, CASIA, Dell Technologies, Fujitsu, GIGABYTE, H3C, HPE, Inspur, Lenovo, Nettrix e Supermicro. A maioria deles executava o MLPerf 2.0 em sistemas certificados pela NVIDIA.
A100 lidera em seis dos oito testes. Fonte: NVIDIA
Com base nos resultados dos testes, a NVIDIA diz que até agora só ela é capaz de oferecer a um cliente comercial uma plataforma completa que pode executar todas as etapas de qualquer cenário de IA: por exemplo, desde reconhecer uma frase falada até encontrar e classificar as informações necessárias para responder, e, finalmente, expressando a própria resposta.
Progresso dos aceleradores NVIDIA AI ao longo de 3,5 anos. Fonte: NVIDIA
E o uso de uma plataforma unificada em vez de várias separadas naturalmente reduz o custo de propriedade e a complexidade de manutenção e configuração. Além disso, tal plataforma tem uma reserva para o futuro, especialmente considerando que o A100 em breve será substituído pelo novo carro-chefe da NVIDIA representado pelo H100.
Fatos curiosos: nos dois anos que se passaram desde a primeira participação do A100 em testes, o desempenho aumentou 6 vezes devido a otimizações da pilha de software, e em 3,5 anos desde o início da participação da NVIDIA no projeto MLPerf, cresceu ainda mais, chegando a 23 vezes.