A infraestrutura de IA do Apple Private Cloud Compute usa não apenas o modelo básico de IA de seu próprio design e servidores Apple para inferência executados nos próprios chips da Apple, mas também a nuvem Google Cloud Compute, observou o recurso HPCWire.
Os detalhes da plataforma AXLearn ML da Apple apontam para uma abordagem híbrida de IA na qual a Apple combina seus próprios servidores com recursos do Google Cloud, informou HPCwire, observando que a nova infraestrutura é um grande passo em frente para a Apple. Por exemplo, o Google e a Microsoft têm trabalhado ativamente na implantação da IA desde o final de 2022. O lançamento de seus próprios sistemas marca o retorno da Apple ao setor de hardware de servidores depois de descontinuar o Xserve em 2011.
Fonte da imagem: Apple
A Apple disse em uma postagem no blog que AXLearn usa a estrutura JAX do Google e o compilador XLA para treinar modelos com alta eficiência e escalabilidade em uma variedade de plataformas de hardware e nuvem, incluindo aceleradores TPU AI proprietários do Google, bem como aceleradores de nuvem e GPU locais (específicos modelos não são especificados). A Apple tem dois novos modelos proprietários de IA, um dos quais tem 3 bilhões de parâmetros e é usado para aplicações de IA em dispositivos, bem como um LLM maior para rodar em servidores.
Os modelos, desenvolvidos usando a estrutura TensorFlow do Google, foram treinados na TPU do Google. No entanto, o AXLearn inclui um orquestrador que atualmente funciona apenas com o Google Cloud. No entanto, a Apple estipula que “teoricamente, pode ser expandido para funcionar nas plataformas de outros provedores de nuvem”. A inferência é realizada exclusivamente nos servidores da própria empresa e, para processar a solicitação do usuário, a cada vez é criada uma nova instância temporária, que é excluída irremediavelmente junto com os dados após a conclusão da tarefa, e a criptografia ponta a ponta é usada para transferir informações.
A Apple, como parte de sua colaboração com OpenAI anunciada na WWDC 2024, integrará o chatbot ChatGPT ao assistente de voz Siri, bem como a outras ferramentas em iOS e outras plataformas. Como há riscos de vazamento de dados em plataformas de terceiros, os dispositivos Apple solicitarão permissão do usuário para enviar dados ao ChatGPT.