Mala de IA: China descobriu como treinar modelos em chips Nvidia que não podem ser importados para o país

Funcionários de empresas chinesas de inteligência artificial estão exportando discos rígidos e SSDs com dados para treinamento de redes neurais para outros países e, em seguida, devolvendo os modelos treinados à China, segundo o The Wall Street Journal. Essa abordagem os ajuda a contornar as restrições de exportação dos EUA, que proíbem o fornecimento de aceleradores avançados para treinamento de modelos de IA para o país.

Fonte da imagem: AI

Segundo a fonte, quatro engenheiros chineses chegaram à Malásia vindos de Pequim no início de março. Cada um deles trouxe uma mala com 15 discos rígidos contendo 80 terabytes de planilhas, imagens e videoclipes para treinar uma rede neural. O empregador dos engenheiros alugou cerca de 300 servidores com aceleradores gráficos Nvidia avançados de um data center malaio. Os engenheiros usaram esses equipamentos e os dados que trouxeram para treinar uma rede neural, que planejavam entregar à China.

Desde 2022, os Estados Unidos vêm restringindo sistematicamente o fornecimento de produtos de alta tecnologia, como aceleradores de IA, para a China, alegando preocupações com a segurança nacional. Apesar disso, as empresas chinesas de IA obtiveram sucesso explorando diversas brechas e soluções alternativas. Em alguns casos, desenvolvedores chineses substituíram aceleradores americanos por equivalentes nacionais. Em outros casos, usaram soluções alternativas para enviar equipamentos avançados por meio de países terceiros.

Fontes da indústria afirmam que isso se tornou mais difícil nos últimos meses, inclusive devido à crescente pressão dos Estados Unidos. Isso está levando a China a buscar novas soluções alternativas. Uma delas envolve exportar os dados para outro país no Sudeste Asiático ou no Oriente Médio, onde é possível usar aceleradores avançados para treinar redes neurais.

«”Isso é algo que nos preocupa”, disse Thea Kendler, funcionária do Departamento de Comércio que supervisionou os controles de exportação no governo anterior, referindo-se ao acesso de empresas chinesas a chips avançados de IA. Camadas de intermediários separam os usuários chineses de chips de IA americanos de seus fabricantes, como a Nvidia, dificultando o monitoramento da cadeia de suprimentos e a detecção de violações das sanções americanas.

Em seus últimos dias de mandato, o governo Biden propôs limitar as compras de chips americanos por país, supostamente para dificultar o atendimento da demanda chinesa por países como a Malásia. Em maio, o governo Trump afirmou que recuaria na imposição de limites nacionais, relutante em impor encargos regulatórios desnecessários à Nvidia e a outras empresas americanas. No entanto, emitiu diretrizes alertando as empresas americanas para que tomassem medidas para impedir que chips de IA americanos fossem usados ​​para treinar redes neurais chinesas.

No caso mencionado anteriormente, a fonte afirmou que a empresa chinesa de IA vinha trabalhando no esquema de treinamento da rede neural há vários meses. Foi decidido que a maneira mais rápida seria enviar os discos de dados de treinamento para a Malásia, pois a transferência pela internet levaria muito mais tempo. Os engenheiros da empresa passaram várias semanas otimizando os conjuntos de dados antes de enviá-los para a Malásia.

Fonte da imagem: Mika Baumeister / Unsplash

Em julho passado, engenheiros chineses contataram o mesmo data center malaio por meio de uma subsidiária em Singapura. À medida que a Nvidia e seus fornecedores começaram a realizar auditorias mais rigorosas dos usuários finais, o data center malaio solicitou à empresa chinesa que trabalhasse por meio de uma entidade legal malaia para evitar auditorias desnecessárias. A empresa chinesa então registrou uma entidade legal em Kuala Lumpur, com três cidadãos malaios listados como gestores e uma holding offshore como controladora.

Para evitar levantar suspeitas na alfândega malaia, os engenheiros chineses embalaram seus discos rígidos em quatro malas diferentes. Eles já haviam feito uma viagem semelhante no ano passado, mas transportaram todos os discos em uma única mala. Recentemente, retornaram à China com centenas de gigabytes de dados, incluindo os parâmetros do modelo de IA que formarão a base do algoritmo de IA.

Todo o processo, embora trabalhoso, evitou a necessidade de importar hardware como aceleradores de IA e servidores para a China. Isso se tornou cada vez mais difícil à medida que os governos do Sudeste Asiático intensificaram os esforços para impedir o trânsito de produtos de tecnologia para a China. Cingapura, por exemplo, afirmou recentemente que, embora não seja legalmente obrigada a aplicar controles de exportação em outros países, não tolerará que empresas usem seus vínculos com o país para contornar sanções.

O Sudeste Asiático está expandindo rapidamente seus data centers para atender clientes ocidentais e chineses. A Jones Lang LaSalle estima que Singapura, Malásia, Tailândia e Indonésia tenham cerca de 2.000 megawatts de capacidade de data center, o equivalente à capacidade combinada de Londres e Frankfurt, os maiores mercados de data center da Europa. Empresas do Sudeste Asiático têm adquirido aceleradores de IA para seus data centers nos últimos meses. O governo Trump ainda não indicou planos para restringir as compras por esses países.