Uma das futuras revoluções no mundo dos aceleradores de computação e da inteligência artificial já tomou forma. A revolução começará no outono de 2026, e uma expansão explosiva das capacidades de IA ocorrerá em 2027. O motor da revolução se chama SanDisk, que agora começará a trabalhar em planos para expansão futura em estreita cooperação com a SK Hynix.
Fonte da imagem: SanDisk
A SanDisk pretende quebrar as regras estabelecidas no mercado de aceleradores de IA com a ajuda de um novo tipo de memória flash — HBF (High Bandwidth Flash). A tecnologia foi anunciada em fevereiro de 2025. A ideia principal é multiplicar a capacidade de memória dos aceleradores por várias vezes a um preço relativamente acessível.
Não é segredo que a densidade de gravação dos chips flash NAND está crescendo muito mais rápido do que a capacidade dos chips DRAM e da memória HBM, uma de suas variedades. Isso é facilitado pela gravação de vários bits em cada célula e pela estrutura multicamadas (pilha) da memória NAND. A memória HBM ainda não foi produzida com essa arquitetura. Toda a sua multicamadas é uma simples pilha de cristais bastante grandes. Portanto, a substituição da memória HBM pela memória HBF em aceleradores permitirá aumentar a memória onboard dos módulos de IA de tal forma que cada um deles possa ser carregado com um modelo de linguagem grande e completo sem o uso de RAM, SSD, HDD e barramentos de dados do acelerador.
Também é possível esperar que a transição da RAM para a memória flash nos aceleradores de IA reduza o consumo de energia dos data centers correspondentes: a memória flash não requer energia para reter dados e energia para regenerar células.
A SanDisk já decidiu como superar a principal limitação da memória flash como substituta dos blocos operacionais DRAM: altas latências (com largura de banda, tudo bem). Para isso, o conjunto HBF será dividido em várias áreas pequenas, o que, em essência, significará a introdução de um barramento de dados muito amplo. Por exemplo, 32.768 bits de largura, conforme proposto por outra empresa com as mesmas ambições revolucionárias: a NEO Semiconductor.
Anteriormente, a SanDisk apresentou um exemplo de comparação do volume atual de HBM em uma GPU no caso de sua substituição por HBF: isso resultará em um aumento de 8 a 16 vezes no volume de memória onboard dos aceleradores com os mesmos custos de produção. Por exemplo, no caso de HBF, cada pilha HBM de 24 GB será substituída por uma pilha HBF de 512 GB. Assim, com a substituição completa de HBM, o acelerador poderá suportar 4 TB de memória onboard, o que permitirá que o grande modelo de linguagem Frontier, com 1,8 trilhão de parâmetros e 3,6 TB de tamanho, seja totalmente carregado.
A parceria com a SK Hynix, anunciada pelas empresas ontem, acelerará o tempo de lançamento do novo desenvolvimento no mercado e permitirá que ele seja distribuído entre desenvolvedores de aceleradores de IA. A parceria também contará com a ajuda de líderes respeitados no mundo da TI, incluindo Raja Koduri, que há cerca de duas semanas concordou em se juntar ao conselho técnico para promover a memória HBF no setor.
De acordo com a SanDisk, as primeiras amostras de memória HBF estarão disponíveis para compra no outono de 2026, e os primeiros produtos com ela serão lançados no início de 2027. Isso vai virar o mundo dos aceleradores de IA de cabeça para baixo, a SanDisk está confiante.