A Apple optou por treinar seus modelos de linguagem nos processadores do Google em vez da Nvidia

Talvez no futuro a Apple conte com seus próprios processadores de servidor para desenvolver seus sistemas de inteligência artificial, mas por enquanto ela é forçada a usar componentes de terceiros. Ao contrário de muitos de seus concorrentes, que dependem fortemente da Nvidia nesta área, a Apple confiou nos processadores tensores do Google.

Fonte da imagem: Apple

Como observa a CNBC, isso decorre da nota explicativa da Apple, que indica a configuração dos clusters de computação que a empresa utilizou para treinar seus grandes modelos de linguagem que formarão a base da tecnologia Apple Intelligence. Sua versão preliminar já começou a ser demonstrada em alguns aparelhos, por isso a Apple decidiu divulgar informações sobre as especificidades do desenvolvimento de sua infraestrutura de inteligência artificial.

A Apple não menciona diretamente o desenvolvedor dos processadores que usou para treinar seu modelo de linguagem Apple Foundation Model, mas o texto da nota inclui a expressão “clusters de nuvem baseados em TPU”. Isso é o que o Google chama de processadores tensores. Entre outras coisas, esta revelação da Apple fala sobre o uso pela empresa de recursos de computação em nuvem alugados do Google. Para o estágio emergente dos sistemas de inteligência artificial da Apple, esta é uma abordagem completamente justificada.

O grande modelo de linguagem que será executado em endpoints da Apple foi treinado usando um cluster de 2.048 processadores da série Google v5p, considerados de última geração. A parte do servidor do modelo foi treinada em um cluster com 8192 processadores v4. O Google aluga esses clusters por US$ 2 por hora para cada processador usado pelo cliente. Ao mesmo tempo, o Google treina seus próprios modelos de linguagem usando hardware Nvidia, e não apenas seus próprios processadores. A Apple não divulga o possível uso de chips Nvidia em sua documentação.