A Lightmatter anunciou seu primeiro produto, a interconexão óptica Passage L200 3D co-packaged optics (CPO), projetada para integrar-se aos mais recentes designs e switches de GPU e XPU, projetados para oferecer aumentos significativos na taxa de transferência de IA em grandes clusters de milhares de GPUs, eliminando gargalos de largura de banda de interconexão.

A família L200 3D CPO inclui versões de 32 (L200) e 64 Tbps (L200X), proporcionando de 5 a 10 vezes mais rendimento do que as soluções existentes. O L200 64 Tbps permite que várias GPUs sejam colocadas juntas em um único pacote de chip, fornecendo mais de 200 Tbps de largura de banda total de E/S, permitindo que o treinamento e a inferência do modelo de IA sejam acelerados em até 8x.

Fonte da imagem: Lightmatter

Em data centers convencionais, os aceleradores são conectados entre si usando uma série de switches de rede, que formam uma espécie de hierarquia multinível. Essa arquitetura cria muita latência porque o sinal precisa passar por vários interruptores para que um acelerador se comunique com outro.

Como o CEO da Lightmatter, Nick Harris, disse anteriormente à SiliconANGLE, a Passage resolve o problema de conexões de rede volumosas incorporando sua tecnologia de fibra ultradensa em chips de data center para melhorar a produtividade em 100 vezes em relação às melhores soluções em uso hoje. Basicamente, ele integra suas conexões de fibra óptica diretamente em um pacote de chips de silício. “Então, em vez de seis ou sete camadas de switches, você tem dois, e cada GPU pode se conectar a milhares de outras”, explicou ele.

A Lightmatter chama sua arquitetura de interconexão de “E/S sem bordas” e diz que ela pode dimensionar a taxa de transferência em toda a área do chip de uma GPU, enquanto chips tradicionais só podem se conectar a outros chips na borda. A integração do Passage 3D permite que o SerDes I/O seja colocado em qualquer lugar do chip, em vez de ficar limitado à borda do chip, fornecendo a taxa de transferência equivalente a 40 transceptores ópticos conectados. A solução modular 3D CPO deve aproveitar a interface interoperável die-to-die (D2D) padrão UCIe e simplificar a arquitetura escalável baseada em chiplet para integração perfeita com XPUs e switches de última geração.

A empresa disse que o próximo L200 CPO foi projetado para produção em alto volume e está trabalhando em estreita colaboração com parceiros de semicondutores, como Global Foundries, ASE e Amkor, bem como com os principais fabricantes de CMOS, para prepará-lo. A Lightmatter L200 e a L200X entrarão em produção no ano que vem.

A Lightmatter também anunciou a plataforma de referência Passage M1000, um superchip fotônico 3D projetado para XPUs e switches de última geração. O Passage M1000 oferece um recorde de 114 Tbps de taxa de transferência óptica total para as aplicações de infraestrutura de IA mais exigentes.

O M1000 de 4.000 mm²+ é um interpositor fotônico ativo multi-mesh que permite aos clientes criar suas próprias interconexões personalizadas usando fotônica de silício, fornecendo conectividade a várias GPUs em um único pacote 3D.

Diz-se que o Passage M1000 supera a limitação de conectividade de ponta ao fornecer E/S eletro-ópticas em praticamente qualquer lugar de sua superfície para a pilha de chips na parte superior. A conectividade do interpositor difundido é fornecida por uma rede de guia de onda extensa e reconfigurável que transporta sinais ópticos WDM de alta largura de banda por todo o M1000. Com uma interconexão de 256 fibras totalmente integrada, suportando 448 Gbps por fibra, o M1000 oferece uma taxa de transferência de uma ordem de magnitude maior em um pacote menor em comparação com a Co-Packaged Optics (CPO) convencional e ofertas semelhantes. As entregas do Passage M1000 começarão neste verão.

Os investidores da Lightmatter incluem grandes empresas de tecnologia, como Alphabet e HPE. Em sua última rodada de financiamento em outubro de 2024, a Lightmatter levantou US$ 400 milhões, elevando o total arrecadado pela empresa para US$ 850 milhões e avaliando seu valor de mercado em US$ 4,4 bilhões.

A Lightmatter anunciou seu primeiro produto, a interconexão óptica Passage L200 3D co-packaged optics (CPO), projetada para integrar-se aos mais recentes designs e switches de GPU e XPU, projetados para oferecer aumentos significativos na taxa de transferência de IA em grandes clusters de milhares de GPUs, eliminando gargalos de largura de banda de interconexão.

A família L200 3D CPO inclui versões de 32 (L200) e 64 Tbps (L200X), proporcionando de 5 a 10 vezes mais rendimento do que as soluções existentes. O L200 64 Tbps permite que várias GPUs sejam colocadas juntas em um único pacote de chip, fornecendo mais de 200 Tbps de largura de banda total de E/S, permitindo que o treinamento e a inferência do modelo de IA sejam acelerados em até 8x.

Fonte da imagem: Lightmatter

Em data centers convencionais, os aceleradores são conectados entre si usando uma série de switches de rede, que formam uma espécie de hierarquia multinível. Essa arquitetura cria muita latência porque o sinal precisa passar por vários interruptores para que um acelerador se comunique com outro.

Como o CEO da Lightmatter, Nick Harris, disse anteriormente à SiliconANGLE, a Passage resolve o problema de conexões de rede volumosas incorporando sua tecnologia de fibra ultradensa em chips de data center para melhorar a produtividade em 100 vezes em relação às melhores soluções em uso hoje. Basicamente, ele integra suas conexões de fibra óptica diretamente em um pacote de chips de silício. “Então, em vez de seis ou sete camadas de switches, você tem dois, e cada GPU pode se conectar a milhares de outras”, explicou ele.

A Lightmatter chama sua arquitetura de interconexão de “E/S sem bordas” e diz que ela pode dimensionar a taxa de transferência em toda a área do chip de uma GPU, enquanto chips tradicionais só podem se conectar a outros chips na borda. A integração do Passage 3D permite que o SerDes I/O seja colocado em qualquer lugar do chip, em vez de ficar limitado à borda do chip, fornecendo a taxa de transferência equivalente a 40 transceptores ópticos conectados. A solução modular 3D CPO deve aproveitar a interface interoperável die-to-die (D2D) padrão UCIe e simplificar a arquitetura escalável baseada em chiplet para integração perfeita com XPUs e switches de última geração.

A empresa disse que o próximo L200 CPO foi projetado para produção em alto volume e está trabalhando em estreita colaboração com parceiros de semicondutores, como Global Foundries, ASE e Amkor, bem como com os principais fabricantes de CMOS, para prepará-lo. A Lightmatter L200 e a L200X entrarão em produção no ano que vem.

A Lightmatter também anunciou a plataforma de referência Passage M1000, um superchip fotônico 3D projetado para XPUs e switches de última geração. O Passage M1000 oferece um recorde de 114 Tbps de taxa de transferência óptica total para as aplicações de infraestrutura de IA mais exigentes.

O M1000 de 4.000 mm²+ é um interpositor fotônico ativo multi-mesh que permite aos clientes criar suas próprias interconexões personalizadas usando fotônica de silício, fornecendo conectividade a várias GPUs em um único pacote 3D.

Diz-se que o Passage M1000 supera a limitação de conectividade de ponta ao fornecer E/S eletro-ópticas em praticamente qualquer lugar de sua superfície para a pilha de chips na parte superior. A conectividade do interpositor difundido é fornecida por uma rede de guia de onda extensa e reconfigurável que transporta sinais ópticos WDM de alta largura de banda por todo o M1000. Com uma interconexão de 256 fibras totalmente integrada, suportando 448 Gbps por fibra, o M1000 oferece uma taxa de transferência de uma ordem de magnitude maior em um pacote menor em comparação com a Co-Packaged Optics (CPO) convencional e ofertas semelhantes. As entregas do Passage M1000 começarão neste verão.

Os investidores da Lightmatter incluem grandes empresas de tecnologia, como Alphabet e HPE. Em sua última rodada de financiamento em outubro de 2024, a Lightmatter levantou US$ 400 milhões, elevando o total arrecadado pela empresa para US$ 850 milhões e avaliando seu valor de mercado em US$ 4,4 bilhões.