Raja Koduri se junta à Sandisk para aumentar a memória do acelerador de IA para 4 TB

Raja Koduri, ex-arquiteto de processadores gráficos na S3, Apple, AMD e Intel, juntou-se ao conselho consultivo técnico do projeto High-Bandwidth Flash (HBF).

Raja Koduri. Fonte da imagem: x.com/RajaXg

A Sandisk anunciou a formação de um conselho consultivo técnico para orientar a estratégia de desenvolvimento e implantação de sua inovadora tecnologia de memória Flash de Alta Largura de Banda (HBF). O conselho inclui especialistas do setor e líderes técnicos seniores de dentro e de fora da empresa. O conselho será liderado por Raja Koduri e pelo Professor David Patterson.

Em fevereiro deste ano, a Sandisk apresentou um novo desenvolvimento no campo da memória flash: o HBF aumentará o volume de memória de vídeo em processadores gráficos e aceleradores de inteligência artificial para 4 TB, e em versões futuras está planejado aumentar esse número. A ideia do HBF envolve a instalação vertical de vários cristais de memória flash de alto desempenho com uma conexão via TSV (through-silicone via) sobre o cristal lógico, que será capaz de acessar cada cristal de memória no array em paralelo. Isso aumentará o volume de memória de vídeo de 8 a 16 vezes, mantendo o custo atual.

A tecnologia envolve a montagem de NAND 3D BiCS em um projeto CMOS Direct Bonded To Array (CBA) — um conjunto de memória NAND 3D é instalado sobre um cristal de E/S fabricado com uma tecnologia de processo para chips lógicos. O Sr. Koduri comparou as prioridades do HBM, atualmente dominante, com o novo HBF. Para o primeiro, a largura de banda específica por watt e por milímetro quadrado é importante; no segundo caso, “o foco principal é aumentar significativamente a capacidade de memória (por dólar, por watt e por milímetro quadrado), garantindo, ao mesmo tempo, uma largura de banda competitiva”. O especialista está confiante de que a tecnologia HBF é capaz de proporcionar um avanço tanto no treinamento quanto na inferência (lançamento) de modelos de IA, bem como “revolucionar a IA local”. O momento do lançamento do HBF não foi especificado.