Nvidia apresentou NIM – um pacote de software e serviços para implantação de IA

A Nvidia apresentou na conferência Siggraph em Denver (EUA, Colorado) um conjunto de produtos NIM (Nvidia Inference Microservices), que foi projetado para simplificar o processo de implantação de produtos de inteligência artificial nas empresas.

Fonte da imagem: nvidia.com

A execução de sistemas generativos de IA com seus próprios recursos requer configuração de hardware, software e busca de informações – nem todas as empresas têm as competências relevantes, e a Nvidia oferece assistência para resolver esse problema mediante o pagamento de uma taxa. Os chips Nvidia formam a base para o desenvolvimento da maioria dos sistemas que permitem IA. Graças a isso, a empresa dobrou sua receita no ano passado e espera dobrar este ano.

O NIM, que inclui software e serviços relacionados, está incluído no produto AI Enterprise da Nvidia, que custa US$ 4.500 por GPU por ano. Software e serviços são projetados para rodar em hardware Nvidia. “O Nvidia NIM é uma solução abrangente para implantação de IA generativa, simplificada para desenvolvedores, mas construída para aplicativos que podem ser escalonados”, disse Kari Briski, vice-presidente de gerenciamento de produtos da Nvidia para kits de desenvolvimento de software de IA e HPC.

Na versão preliminar do NIM, estavam disponíveis cerca de 100 microsserviços para inferir sistemas de IA; Por exemplo, os serviços da Getty Images ajudam a gerar imagens de alta resolução, melhorando a qualidade de interpretação das consultas de texto. O gerador de imagens 3D do Shutterstock Edify suporta texto e imagens como consultas. Software e serviços da Nvidia, por exemplo, ajudarão a criar mundos virtuais para o Apple Vision Pro. E a tecnologia de gêmeos digitais ajudará a treinar os computadores que controlam os robôs para tornar as máquinas mais parecidas com os humanos, eliminando a necessidade de os desenvolvedores fazerem isso manualmente.