Intel, Arm e NVIDIA propuseram um formato de número especial para trabalhar com IA

Intel, Arm e NVIDIA publicaram um rascunho da especificação de formato numérico FP8 para números de ponto flutuante de 8 bits. Conforme concebido pelas empresas, esse formato deve se tornar uma representação única dos números utilizados na resolução de problemas de IA tanto no treinamento de redes neurais quanto em sua operação (inferência).

Nvidia

Segundo as empresas, o uso de números reais de 8 bits no cálculo de pesos em redes neurais otimizará o uso de recursos de computação de hardware. Esses números ocupam menos memória e são mais fáceis de processar, o que aumentará o desempenho dos aceleradores de hardware ao resolver problemas de IA.

Os formatos tradicionais de ponto flutuante atualmente em uso são FP32 (precisão simples) e FP16 (meia precisão). Ao resolver problemas de aprendizado de máquina, o segundo formato agora é predominantemente usado. No entanto, de acordo com Intel, Arm e NVIDIA, números ainda mais curtos, embora com menor precisão, são bastante aplicáveis ​​em tarefas de IA, ao mesmo tempo em que podem ser processados ​​mais rapidamente e com menos energia.

Por exemplo, em uma postagem no blog, o diretor de marketing de produtos da NVIDIA, Shar Narasimhan, observa que o formato FP8 exibe “fidelidade comparável” à precisão de 16 bits em aplicativos como visão computacional e sistemas de imagem, enquanto fornece aceleração “significativa”.

O formato FP8 estará disponível para todos sem licença, em formato aberto. As especificações serão posteriormente submetidas ao IEEE, um órgão de padrões da indústria para várias áreas técnicas. “Acreditamos que a existência de um formato comum de troca de dados garantirá rápido progresso e compatibilidade de plataformas de hardware e software para o desenvolvimento de tecnologia de computação”, disse Narasimhan.

Vale ressaltar que o suporte para números FP8 já foi implementado na arquitetura GH100 Hopper da NVIDIA, bem como nos aceleradores Gaudi2 AI da Intel.

O formato unificado do FP8 beneficiará não apenas as três empresas que propuseram o padrão, mas também outros players que oferecem aceleradores para trabalhar com IA. De uma forma ou de outra, todos eles suportam algumas de suas versões de números de ponto flutuante de precisão reduzida, e o surgimento de um único padrão aberto em vez de vários formatos concorrentes simplificará o desenvolvimento de soluções de hardware e bibliotecas de software.