Firefly introduziu servidores CSB1-N10 para criar clusters de IA a partir de computadores de placa única

A Firefly Technology, de acordo com o recurso CNX-Software, lançou servidores da série CSB1-N10 para construção de clusters de IA. Os dispositivos em formato 1U são adequados para data centers, implantações de borda e sites locais.

A família inclui cinco modelos: CSB1-N10S1688, CSB1-N10R3588, CSB1-N10R3576, CSB1-N10NOrinNano e CSB1-N10NOrinNX. Os nós do sistema são equipados respectivamente com processador Sophgo Sophon BM1688 (8 núcleos, até 1,6 GHz), Rockchip RK3588 (8 núcleos, até 2,4 GHz), Rockchip RK3576 (8 núcleos, até 2,2 GHz), NVIDIA Jetson Orin Nano ( 6 núcleos, até 1,5 GHz) e Jetson Orin NX (8 núcleos, até 2,0 GHz).

Os três primeiros nós listados estão equipados com RAM LPDDR4 com capacidade de 8, 16 e 8 GB, respectivamente, bem como um módulo flash eMMC com capacidade de 32, 256 e 64 GB. As variantes Orin são equipadas com 8 e 16 GB de memória LPDDR5 e uma unidade SSD NVMe de 256 GB.

Todos os servidores contêm dez nós de computação e um nó de controle adicional no chip RK3588. Existe um slot para SSD com interface SATA-3. O equipamento inclui duas portas de rede 10GbE (SFP+) e 1GbE (RJ45), uma porta dedicada de gerenciamento de rede 1GbE, um conector D-Sub analógico (1080p60), duas portas USB 3.0 e uma porta serial. O resfriamento a ar é usado. Uma unidade de 550 W é responsável pelo fornecimento de energia. Faixa de temperatura operacional – de 0 a +45 °C.

Fonte da imagem: vaga-lume

Um cluster baseado em CSB1-N10S1688 fornece desempenho de IA de até 160 TOPS em operações INT8. No caso de CSB1-N10R3588 e CSB1-N10R3576, esse valor é de 60 TOPS. Esses três sistemas suportam o trabalho com grandes modelos de linguagem (LLM), bem como com as estruturas TensorFlow, PyTorch, PaddlePaddle, ONNX e Caffe. No caso do CSB1-N10NOrinNano e CSB1-N10NOrinNX, o desempenho chega a 400 e 1000 TOPS. Fala sobre suporte para LLaMa3 e Phi-3 Mini, frameworks TensorFlow, PyTorch, Matlab, etc. Os preços variam de $ 2.059 a $ 14.709.

avalanche

Postagens recentes

Jornalistas revelaram a dimensão das futuras demissões na Xbox – até mesmo a Arkane Studios e seu jogo Marvel’s Blade correm o risco de fechar as portas.

O The Verge, citando fontes familiarizadas com os planos da Microsoft, noticiou mais uma possível…

19 minutos atrás

Inteligência artificial foi treinada para falar como um homem das cavernas para economizar milhões em tokens.

Desenvolvedores de chatbots começaram a usar amplamente uma ferramenta especializada chamada Caveman, que força a…

40 minutos atrás

A Bethesda confirmou a data de lançamento de The Elder Scrolls IV: Oblivion Remastered e como o jogo funcionará no Nintendo Switch 2.

A Bethesda Softworks anunciou a data de lançamento de The Elder Scrolls IV: Oblivion Remastered,…

2 horas atrás

Sorria e acene: Quantic Dream ignora preocupações de funcionários sobre o futuro de Star Wars Eclipse.

O estúdio francês Quantic Dream (Heavy Rain, Beyond: Two Souls, Detroit: Become Human) respondeu às…

3 horas atrás