O primeiro “grande” acelerador de IA do mundo baseado na arquitetura RISC-V da jovem empresa Esperanto, criada pelo veterano da indústria Dave Ditzel, que deu origem ao lendário Transmeta, pode encontrar seu lugar nos novos SSDs “inteligentes” da Samsung. A gigante coreana revelou informações sobre um protótipo de tal unidade como parte do evento SAFE, que ocorreu neste outono.
O acelerador Esperanto ET-SoC-1 foi originalmente criado com foco em plataformas de inferência com eficiência energética para vários sistemas de recomendação e, além de 1088 núcleos (ET-Minion), recebeu um subsistema SRAM muito volumoso (mais de 160 MB) e um controlador LPDDR4 de oito canais. Os criadores do ET-SoC-1 receberam os primeiros lotes de chips lançados usando a tecnologia de processo de 7 nm e estão atualmente trabalhando ativamente em vários cenários para usar sua criação.
Imagens: Samsung / Esperanto
Mas não só eles – a Samsung chamou a atenção para o ET-SoC-1. Esses sistemas agora são usados em tudo, desde plataformas de streaming a grandes lojas e plataformas de mídia social, portanto, o mercado é enorme, e aqueles cujos mecanismos de recomendação são mais rápidos e precisos vão tirar proveito disso. Eles estão tão firmemente enraizados em nossas vidas que, de acordo com algumas estimativas, gigantes como Google, Facebook ou Amazon respondem por até 80% de todas as cargas de trabalho de IA em sistemas de recomendação.
SSD com chip Esperanto a bordo (à direita) simplifica os sistemas de recomendação e libera recursos do sistema
Infelizmente, os mecanismos desse tipo operam com matrizes de dados de dezenas de gigabytes, mas para usá-los, o sistema deve primeiro solicitar os dados correspondentes dos drives. Ao mesmo tempo, esses mecanismos exigem respostas quase instantâneas às solicitações recebidas e os próprios arrays exigem atualizações regulares.
Mas o ET-SoC-1, segundo Esperanto e Samsung, vai aproximar esse processo dos drives – o chip pode ser integrado diretamente a um SSD e ler arrays de dados diretamente da memória NAND. No conceito de Samsung SmartSSD, os processadores centrais dos servidores estão engajados apenas no envio de solicitações do usuário, e todos os trabalhos com matrizes, comparação de dados e desenvolvimento de soluções recaem sobre os ombros do ET-SoC-1.
Resultados dos primeiros testes publicados pela Samsung
Essa abordagem não apenas alivia os processadores, mas também libera recursos de barramento PCIe. Testes preliminares mostram que o ganho na largura de banda utilizada entre o SSD e a CPU pode chegar de 10 a 100 vezes, e isso apesar do protótipo usar apenas uma pequena fração dos 1.088 núcleos ET-SoC-1 – de 32 a 128 Mas a arquitetura criada pelo Esperanto é modular, e não há nada que impeça o serial “SSD de recomendação” de usar chips mais simples com menos blocos ET-Minion.