Computação de IA na OPU: Neurophos prepara acelerador de fótons Tulkas T100 de 56 GHz

A Neurophos, startup que desenvolve chips fotônicos para cargas de trabalho de IA, anunciou que captou US$ 110 milhões em uma rodada de financiamento Série A com excesso de demanda, elevando seu total arrecadado para US$ 118 milhões. A rodada foi liderada pela Gates Frontier, de Bill Gates, com participação da M12 (fundo de capital de risco da Microsoft), Carbon Direct Capital, Aramco Ventures, Bosch Ventures, Tectonic Ventures, Space Capital e outros. Os investidores também incluíram DNX Ventures, Geometry, Alumni Ventures, Wonderstone Ventures, MetaVC Partners, Morgan Creek Capital, Silicon Catalyst Ventures, Mana Ventures, Gaingels e outros. O escritório de advocacia Cooley LLP atuou como consultor jurídico.

A empresa planeja usar os recursos para acelerar o desenvolvimento de seu primeiro sistema integrado de computação fotônica. Ele inclui módulos OPU prontos para data centers, um conjunto completo de software e hardware com acesso antecipado para desenvolvedores. A empresa também está expandindo sua sede em Austin e abrindo um novo centro de engenharia em São Francisco para atender à demanda inicial dos clientes.

A startup desenvolveu um “modulador de meta-superfície” com propriedades ópticas que permitem seu uso como processador tensorial para multiplicação de matrizes por vetores. Os moduladores ópticos em escala micrométrica, baseados em metamateriais, são 10.000 vezes menores que os elementos fotônicos existentes, tornando a computação fotônica uma realidade pela primeira vez. Esses moduladores se integram à tecnologia de computação em memória para reduzir a movimentação de dados.

Fonte da imagem: Neurophos

“As cargas de trabalho de inferência de IA atuais exigem enorme poder computacional e recursos”, disse o Dr. Marc Tremblay, vice-presidente corporativo e especialista técnico em infraestrutura de IA. “Precisamos de um avanço no poder computacional comparável aos saltos que estamos vendo nos próprios modelos de IA, e é exatamente isso que a tecnologia da Neurophos e sua equipe altamente qualificada estão oferecendo.”

A empresa, fundada por Patrick Bowen e Andrew Traverso, conta com veteranos da indústria da NVIDIA, Apple, Samsung, Intel, AMD, Meta✴, ARM, Micron, Mellanox, Lightmatter e outras. A Neurophos está desenvolvendo uma unidade de processamento óptico (OPU) que integra mais de um milhão de elementos de processamento óptico de micrômetros em um único chip. Ela oferece até 100 vezes o desempenho e a eficiência energética dos principais chips atuais, segundo a empresa.

“A Lei de Moore está perdendo força, mas a IA não pode esperar. Nossa inovação em fotônica desbloqueia um novo nível de escalabilidade graças ao paralelismo óptico massivo em um único chip. Essa mudança na física significa que tanto a eficiência quanto a velocidade melhoram à medida que escalamos, nos libertando das barreiras de energia que limitam as GPUs tradicionais”, afirma Bowen.

“O equivalente a um transistor óptico que se encontra nas fábricas hoje em dia é enorme. Tem cerca de 2 mm de comprimento. Simplesmente não é possível colocar transistores suficientes desses em um chip para atingir uma densidade de computação minimamente competitiva com a tecnologia CMOS atual”, disse Bowen ao The Register. “Em maio, produzimos o primeiro chip de silício, demonstrando que podemos fazê-lo usando um processo CMOS padrão, o que significa que é compatível com as tecnologias de fabricação existentes. O chip contém um único núcleo tensor fotônico, com 1000 x 1000 [elementos de processamento]”, afirmou.

Isso é significativamente maior do que o encontrado na maioria das GPUs, que normalmente usam mecanismos de multiplicação de matrizes com 256 x 256 elementos de processamento. No entanto, o chip Neurophos requer apenas um único núcleo tensor, em comparação com as dezenas ou mesmo centenas encontradas nos aceleradores da NVIDIA. Bowen afirma que o núcleo tensor no acelerador Neurophos de primeira geração ocupará aproximadamente 25 mm². “O principal desafio para suportar esse núcleo tensor incrivelmente poderoso é encaixar o restante do chip, do tamanho de uma máscara, no núcleo”, disse Bowen.

Em particular, o Neurophos exige um número enorme de processadores vetoriais e SRAM para garantir que o núcleo tensor não fique sem dados. Isso ocorre porque o próprio núcleo tensor — do qual haverá apenas um — opera a aproximadamente 56 GHz. Mas, como a multiplicação de matrizes é realizada opticamente, a única energia consumida pelo núcleo tensor é a conversão de sinais elétricos em sinais ópticos e vice-versa.Bowen relatou.

Segundo a Neurophos, sua primeira OPU, a Tulkas T100, contará com 768 GB de memória HBM (20 TB/s) e 200 MB de cache L2. O sistema oferecerá desempenho de 470 POPS (FP4/INT4) ou 400 TOPS (FP16/INT16) com consumo de energia de 1 a 2 kW sob carga, demonstrando uma eficiência energética de até 235 TOPS/W. Vale ressaltar que esses números ainda são apenas estimativas. O chip ainda está em desenvolvimento ativo e a produção em larga escala não deve começar antes de meados de 2028. A Neurophos afirma que não prevê problemas com a produção em massa de chips ópticos, já que eles podem ser fabricados utilizando materiais, ferramentas e processos de fabricação padrão.

Bowen prevê que a Tulkas T100 desempenhará um papel semelhante ao do coacelerador Rubin CPX da NVIDIA para gerenciamento de contexto e geração de cache chave-valor. “O conceito atual, que pode mudar, é que implantaremos um de nossos racks, composto por 256 de nossos chips, e ele será emparelhado com algo como um rack NVL576”, disse ele. Uma mudança a longo prazo para a geração de tokens também é possível, mas isso exigirá o desenvolvimento de múltiplas tecnologias, incluindo óptica integrada.

Bowen disse ao TechCrunch que a Neurophos já assinou contratos com vários clientes (embora tenha se recusado a nomeá-los) e que empresas como a Microsoft estão “analisando com muita atenção” os produtos da startup. Embora o mercado de aceleradores de IA já seja altamente competitivo, Bowen está confiante de que o aumento de desempenho e eficiência proporcionado pela computação óptica oferecerá uma vantagem competitiva suficiente para os chips da startup.“Todos os outros, incluindo a NVIDIA, em termos de física fundamental do silício, são mais propensos a…”São evolutivas, e não revolucionárias, e isso se deve ao progresso da TSMC. Se você observar as melhorias nas tecnologias de processo da TSMC, verá que elas aumentam a eficiência energética em cerca de 15% em média, e isso leva alguns anos”, disse ele.

Se você encontrar um erro, selecione-o com o mouse e pressione CTRL+ENTER. | Você consegue escrever um melhor? Ficaremos felizes em receber sua contribuição.

Fonte: