Meta introduziu um supercomputador nos aceleradores 6080 NVIDIA A100 – ele ensinará a IA a pensar como uma pessoa

A Meta anunciou a criação do AI Research SuperCluster (RSC), um novo supercomputador projetado para trabalhar com tarefas de inteligência artificial. Segundo a empresa, em breve se tornará o mais rápido do mundo. O supercomputador foi o resultado de quase dois anos de trabalho, alguns dos quais foram feitos remotamente durante o auge da pandemia de coronavírus.

Fonte da imagem: Meta

O trabalho no supercomputador foi liderado pelas equipes de infraestrutura e inteligência artificial da Meta. Várias centenas de especialistas participaram do projeto, incluindo funcionários de empresas como NVIDIA, Penguin Computing e Pure Storage. Meta disse que sua equipe de pesquisa está atualmente usando o supercomputador para treinar modelos de inteligência artificial em processamento de linguagem natural e visão computacional para pesquisa. O objetivo é capacitar modelos treináveis ​​com mais de um trilhão de parâmetros usando conjuntos de dados de até exabytes de tamanho, aproximadamente o equivalente a 36.000 anos de vídeo de alta qualidade.

«As experiências que estamos criando para o metaverso exigem um enorme poder de computação, e o RSC permitirá a criação de novos modelos de IA que podem aprender com trilhões de exemplos, entender centenas de idiomas e muito mais”, disse Mark Zuckerberg, CEO da Meta.

Meta relata que seu novo supercomputador consiste atualmente em 760 sistemas NVIDIA DGX A100, que juntos contêm 6080 aceleradores NVIDIA A100, tornando-o o quinto supercomputador mais rápido do mundo. Os clusters são conectados pela NVIDIA Quantum no InfiniBand com uma largura de banda de 200 Gbps.

Em meados do verão, quando o RSC estiver totalmente concluído, ele conterá cerca de 16.000 GPUs NVIDIA A100, de acordo com Meta, tornando-o o supercomputador de IA mais rápido do mundo. É relatado que ele será capaz de processar até 16 TB de dados por segundo. A empresa se recusou a divulgar a localização do computador e o custo do projeto.

A inteligência artificial geralmente requer um computador para realizar uma enorme quantidade de cálculos de baixa precisão ao mesmo tempo. Para esta tarefa, as GPUs são muito adequadas, tendo milhares de núcleos de processamento trabalhando simultaneamente. Os supercomputadores convencionais são otimizados para operações de alta precisão, enquanto os computadores de IA operam em níveis muito mais baixos de precisão, o que permite um aumento significativo na velocidade computacional sem afetar os resultados finais. Infraestrutura de alto desempenho, como um supercomputador. necessários para processar a quantidade de dados que o Meta possui.

É relatado que o supercomputador Meta é usado para fins de pesquisa e é improvável que produtos baseados nele apareçam nos próximos anos. O objetivo da empresa deve ser criar modelos de IA que possam funcionar como um cérebro humano e até mesmo fornecer compreensão contextual de situações. Eles poderão trabalhar em centenas de idiomas, analisar textos, imagens, vídeos e desenvolver ferramentas de realidade aumentada. Essa tecnologia ajudará a Meta a identificar conteúdo malicioso com mais facilidade e precisão, além de permitir que os pesquisadores da empresa desenvolvam modelos de IA que possam pensar como humanos e oferecer uma rica experiência multidimensional no metaverso.