A capacidade de aquisição de SSD para cargas de trabalho de IA excederá 45 EB em 2024

A demanda por sistemas de IA e servidores relacionados levou a um aumento nos pedidos de SSDs de classe empresarial nos últimos dois trimestres. De acordo com a TrendForce, os fabricantes de componentes de unidades de estado sólido estão configurando processos de produção em preparação para a produção em massa de unidades de próxima geração que chegarão ao mercado em 2025.

Um aumento nos pedidos de SSDs corporativos de usuários de servidores de IA levou a um aumento nos preços contratuais para esta categoria de bens em mais de 80% do quarto trimestre de 2023 ao terceiro trimestre de 2024. Ao mesmo tempo, os SSDs desempenham um papel importante. papel fundamental no desenvolvimento da IA, uma vez que só eles são adequados para uma operação eficaz com modelos. Além de realmente armazenar os dados do modelo, eles também são necessários para criar pontos de verificação durante o treinamento, para que em caso de falhas seja possível “reverter” rapidamente o modelo e retomar o treinamento.

Devido às altas velocidades de gravação e leitura, bem como ao aumento da confiabilidade em comparação aos HDDs, unidades TLC com capacidade de 4 a 8 TB são geralmente escolhidas para modelos de treinamento. A eficácia dos RAGs e dos modelos de linguagem grande (LLMs), especialmente para gerar conteúdo de mídia, depende tanto da capacidade quanto do desempenho das unidades, portanto, as unidades TLC/QLC com capacidade de 16 TB ou mais são mais preferíveis para inferência.

Fonte da imagem: TrendForce

Desde o segundo trimestre de 2024, a procura por SSDs para servidores de IA com capacidade superior a 16 TB aumentou significativamente. Com a crescente disponibilidade dos aceleradores NVIDIA H100/H20/H200, os clientes começaram a aumentar a demanda por SSDs TLC de 4 e 8 TB. A agência acredita que a capacidade de compra de SSDs em 2024 ultrapassará 45 EB e, nos próximos anos, a demanda por SSDs para servidores aumentará mais de 60% ao ano. Em particular, os SSDs para cargas de trabalho de IA consumirão potencialmente até 9% de toda a memória NAND em 2025, enquanto em 2024 esse número deverá ser de 5%.