Samsung apresenta SOCAMM2 LPDDR5X para data centers com IA – DDR5 RDIMM mais rápida e com maior eficiência energética (3DNews)

A Samsung anunciou o módulo de memória SOCAMM2, baseado em chips LPDDR5X, projetado especificamente para plataformas de data center com inteligência artificial. Este novo formato de memória foi desenvolvido para levar os benefícios de eficiência energética e largura de banda do LPDDR5X para servidores, sem a necessidade de soldar permanentemente os chips de memória na placa-mãe.

Fonte da imagem: Samsung

A memória SOCAMM2 é voltada para uma classe específica e crescente de sistemas onde processadores ou superchips CPU-GPU são combinados com grandes conjuntos de memória do sistema que precisam oferecer alto desempenho com menor consumo de energia do que os módulos DIMM de servidor típicos — tudo isso em um formato mais compacto. À medida que as cargas de trabalho de inferência se expandem e os servidores de IA migram para operação contínua e ininterrupta, a eficiência energética da memória não pode mais ser considerada uma questão secundária, pois contribui significativamente para os custos operacionais em nível de rack. A SOCAMM2 é a resposta para esses desafios.

A Samsung observa que, embora os módulos de servidor baseados em DRAM, como o RDIMM (Registered Dual Inline Memory Module), continuem a servir como base para servidores de uso geral de alto desempenho, o SOCAMM2 oferece uma alternativa adicional otimizada para servidores de IA de última geração que exigem alta capacidade de resposta e eficiência energética. A memória SOCAMM2 oferece mais que o dobro da largura de banda dos módulos RDIMM tradicionais, consumindo mais de 55% menos energia e mantendo um alto desempenho consistente sob cargas de trabalho intensivas de IA, tornando-a ideal para servidores de IA com foco em desempenho e eficiência energética. Além disso, a maior eficiência energética do SOCAMM2 simplifica a organização e o gerenciamento do resfriamento do sistema de IA, um fator crítico em ambientes de computação de IA de alta densidade.

A Samsung afirma que já está colaborando com a Nvidia para desenvolver soluções de infraestrutura usando esses módulos de memória e posiciona o formato SOCAMM2 como uma resposta natural ao aumento dos custos de energia, às limitações de densidade e aos problemas de reparabilidade em instâncias de grande escala.

A Samsung também observa que, à medida que a escala e a complexidade das cargas de trabalho de IA aumentam, a empresa desenvolverá ainda mais seu portfólio de memória para servidores baseado em LPDDR.