Firefly introduziu servidores CSB1-N10 para criar clusters de IA a partir de computadores de placa única

A Firefly Technology, de acordo com o recurso CNX-Software, lançou servidores da série CSB1-N10 para construção de clusters de IA. Os dispositivos em formato 1U são adequados para data centers, implantações de borda e sites locais.

A família inclui cinco modelos: CSB1-N10S1688, CSB1-N10R3588, CSB1-N10R3576, CSB1-N10NOrinNano e CSB1-N10NOrinNX. Os nós do sistema são equipados respectivamente com processador Sophgo Sophon BM1688 (8 núcleos, até 1,6 GHz), Rockchip RK3588 (8 núcleos, até 2,4 GHz), Rockchip RK3576 (8 núcleos, até 2,2 GHz), NVIDIA Jetson Orin Nano ( 6 núcleos, até 1,5 GHz) e Jetson Orin NX (8 núcleos, até 2,0 GHz).

Os três primeiros nós listados estão equipados com RAM LPDDR4 com capacidade de 8, 16 e 8 GB, respectivamente, bem como um módulo flash eMMC com capacidade de 32, 256 e 64 GB. As variantes Orin são equipadas com 8 e 16 GB de memória LPDDR5 e uma unidade SSD NVMe de 256 GB.

Todos os servidores contêm dez nós de computação e um nó de controle adicional no chip RK3588. Existe um slot para SSD com interface SATA-3. O equipamento inclui duas portas de rede 10GbE (SFP+) e 1GbE (RJ45), uma porta dedicada de gerenciamento de rede 1GbE, um conector D-Sub analógico (1080p60), duas portas USB 3.0 e uma porta serial. O resfriamento a ar é usado. Uma unidade de 550 W é responsável pelo fornecimento de energia. Faixa de temperatura operacional – de 0 a +45 °C.

Fonte da imagem: vaga-lume

Um cluster baseado em CSB1-N10S1688 fornece desempenho de IA de até 160 TOPS em operações INT8. No caso de CSB1-N10R3588 e CSB1-N10R3576, esse valor é de 60 TOPS. Esses três sistemas suportam o trabalho com grandes modelos de linguagem (LLM), bem como com as estruturas TensorFlow, PyTorch, PaddlePaddle, ONNX e Caffe. No caso do CSB1-N10NOrinNano e CSB1-N10NOrinNX, o desempenho chega a 400 e 1000 TOPS. Fala sobre suporte para LLaMa3 e Phi-3 Mini, frameworks TensorFlow, PyTorch, Matlab, etc. Os preços variam de $ 2.059 a $ 14.709.

avalanche

Postagens recentes

A Siri, com sua inteligência artificial, sugerirá pausas em conversas prolongadas e lembrará que ela não é humana.

Foram descobertas referências no código do iOS 27 da Apple indicando que a assistente virtual…

46 minutos atrás

A BYD vai investir €2 bilhões em sua rede de carregamento na Europa e no Reino Unido.

A BYD planeja investir € 2 bilhões na construção de uma rede de estações de…

1 hora atrás

Mercado de smartphones em declínio: a Samsung está se saindo melhor do que qualquer outra empresa na crise de memória.

Segundo analistas da TrendForce, 284 milhões de smartphones foram produzidos mundialmente no primeiro trimestre, representando…

2 horas atrás

Astrônomos determinaram, pela primeira vez, os limites do berço estelar da Via Láctea.

Até recentemente, a extensão da região ativa de formação estelar em nossa galáxia, a Via…

2 horas atrás

A Apple afirmou que tem o direito de remover da App Store aplicativos que não atraem usuários.

A Apple alertou os desenvolvedores de que nem todos os seus aplicativos poderão permanecer na…

2 horas atrás