A Samsung Electronics fornecerá a empresa líder sul-coreana de Internet, Naver Corp., este ano. Aceleradores de IA Mach-1 de última geração com design próprio. O valor do contrato será de até ₩1 trilhão (cerca de US$ 752 milhões), informou o recurso KED Global, citando fontes da indústria. Isso permitirá que a Naver reduza significativamente sua dependência dos suprimentos de aceleradores NVIDIA.
Em outubro passado, a Naver foi forçada a usar processadores Intel Xeon em vez de aceleradores NVIDIA. A mudança de hardware da Naver ocorre em meio à crescente insatisfação entre as empresas de tecnologia com o aumento dos preços dos aceleradores NVIDIA e com a escassez global. De acordo com a Samsung, o Mach-1 foi projetado para suportar modelos Transformer e permitir inferência de modelo de linguagem grande (LLM), mesmo com memória de baixo consumo de energia, em vez de HBM que consome muita energia, tornando-o oito vezes mais eficiente em termos de energia do que os aceleradores tradicionais baseados em GPU. Ao mesmo tempo, Mach 1 é uma ordem de grandeza mais barata que os chips NVIDIA.
Segundo fontes, a unidade de negócios System LSI da Samsung e a Naver estão nos estágios finais de negociações para fornecer 150-200 mil aceleradores de IA Mach-1, cujo preço pode ser de ₩ 5 milhões (US$ 3.756) por unidade. Os preços e volumes exatos de fornecimentos ainda não foram acordados. É relatado que o Naver usará Mach-1 para inferência em vez de aceleradores NVIDIA no serviço de mapeamento Naver Place AI. A Naver está pronta para comprar esses chips no futuro se o primeiro lote apresentar “bom desempenho”, observaram as fontes, segundo as quais a Samsung também está negociando o fornecimento do Mach-1 com a Microsoft e a Meta✴.
Fonte da imagem: Samsung
Para a Samsung, o acordo com a Naver é importante em termos de concorrência com a SK Hynix, que domina o segmento de memórias HBM, cuja procura aumentou acentuadamente devido à popularidade da IA generativa. A Samsung anunciou o desenvolvimento da primeira memória HBM3E 12-Hi da indústria, que iniciará a produção em massa no primeiro semestre deste ano. Além disso, o Grupo SK está apoiando o desenvolvimento dos aceleradores Sapeon AI e a Samsung está colaborando com a Rebellions. A Omdia estima que o mercado global de aceleradores de IA crescerá de US$ 6 bilhões em 2023 para US$ 143 bilhões em 2030.