A Firefly Technology, de acordo com o recurso CNX-Software, lançou servidores da série CSB1-N10 para construção de clusters de IA. Os dispositivos em formato 1U são adequados para data centers, implantações de borda e sites locais.
A família inclui cinco modelos: CSB1-N10S1688, CSB1-N10R3588, CSB1-N10R3576, CSB1-N10NOrinNano e CSB1-N10NOrinNX. Os nós do sistema são equipados respectivamente com processador Sophgo Sophon BM1688 (8 núcleos, até 1,6 GHz), Rockchip RK3588 (8 núcleos, até 2,4 GHz), Rockchip RK3576 (8 núcleos, até 2,2 GHz), NVIDIA Jetson Orin Nano ( 6 núcleos, até 1,5 GHz) e Jetson Orin NX (8 núcleos, até 2,0 GHz).
Os três primeiros nós listados estão equipados com RAM LPDDR4 com capacidade de 8, 16 e 8 GB, respectivamente, bem como um módulo flash eMMC com capacidade de 32, 256 e 64 GB. As variantes Orin são equipadas com 8 e 16 GB de memória LPDDR5 e uma unidade SSD NVMe de 256 GB.
Todos os servidores contêm dez nós de computação e um nó de controle adicional no chip RK3588. Existe um slot para SSD com interface SATA-3. O equipamento inclui duas portas de rede 10GbE (SFP+) e 1GbE (RJ45), uma porta dedicada de gerenciamento de rede 1GbE, um conector D-Sub analógico (1080p60), duas portas USB 3.0 e uma porta serial. O resfriamento a ar é usado. Uma unidade de 550 W é responsável pelo fornecimento de energia. Faixa de temperatura operacional – de 0 a +45 °C.
Fonte da imagem: vaga-lume
Um cluster baseado em CSB1-N10S1688 fornece desempenho de IA de até 160 TOPS em operações INT8. No caso de CSB1-N10R3588 e CSB1-N10R3576, esse valor é de 60 TOPS. Esses três sistemas suportam o trabalho com grandes modelos de linguagem (LLM), bem como com as estruturas TensorFlow, PyTorch, PaddlePaddle, ONNX e Caffe. No caso do CSB1-N10NOrinNano e CSB1-N10NOrinNX, o desempenho chega a 400 e 1000 TOPS. Fala sobre suporte para LLaMa3 e Phi-3 Mini, frameworks TensorFlow, PyTorch, Matlab, etc. Os preços variam de $ 2.059 a $ 14.709.