Desenvolvedores chineses de IA, com acesso limitado a recursos computacionais modernos devido às sanções americanas, estão tentando compensar o possível atraso de várias maneiras. A Huawei ofereceu uma ferramenta de software de código aberto projetada para compensar a falta de acesso a aceleradores de memória do tipo HBM para desenvolvedores chineses.
Fonte da imagem: Huawei Technologies
A ferramenta de software proposta pela Huawei chama-se Unified Cache Manager (UCM) e seu objetivo é otimizar o acesso aos dados de acordo com uma hierarquia predefinida de tipos de memória. As informações armazenadas em HBM, DRAM e SSD podem ser aceleradas por esta ferramenta em sistemas de IA orientados a inferência.
Em testes especializados, o UCM já comprovou sua eficácia, reduzindo a latência de acesso à memória em até 90% e aumentando a taxa de transferência do sistema em 22 vezes, no caso mais notável. O UCM estará disponível para desenvolvedores que trabalham com a Huawei a partir do próximo mês e, posteriormente, para um círculo mais amplo de criadores de sistemas de IA chineses. Isso deve ajudar a reduzir a dependência da indústria chinesa de IA dos chips de memória HBM, fabricados pelas sul-coreanas SK Hynix e Samsung, bem como pela americana Micron Technology. O fornecimento dessa memória para a China é proibido pelas sanções dos EUA, e os fabricantes chineses estão apenas começando a produzi-la — e não na geração mais rápida.
O progresso é dificultado por sanções ao fornecimento de equipamentos para a produção de memória HBM para a China, também impostas pelas autoridades americanas. Recentemente, autoridades chinesas pediram aos seus colegas americanos que flexibilizassem as restrições ao fornecimento de memória HBM para o Império Celestial. Ao mesmo tempo, pedem aos desenvolvedores chineses que parem de usar aceleradores Nvidia H20 fornecidos pelos EUA.