A Apple anunciou o lançamento da plataforma MLX (ML Explore), projetada para o desenvolvimento de sistemas de inteligência artificial que rodarão em computadores com processadores próprios Apple Silicon. Todos os componentes necessários estão disponíveis no GitHub.
Fonte da imagem: apple.com
O objetivo do projeto é facilitar aos pesquisadores que trabalham em computadores Apple o treinamento e a implantação de modelos de IA. A ferramenta não é voltada para o consumidor, mas para desenvolvedores, que agora contam com um ambiente poderoso – existem APIs Python e APIs C++ que são semelhantes entre si; A memória unificada é suportada, ou seja, as matrizes de dados estão na memória compartilhada e as operações podem ser realizadas na CPU ou GPU sem cópia.
A Apple também forneceu um conjunto de exemplos do que a estrutura MLX é capaz:
- Treinar um modelo de linguagem – um transformador e configurá-lo usando LoRA;
- Geração de texto utilizando modelos de linguagem LLaMA e Mistral;
- Geração de imagens usando difusão estável;
- Reconhecimento de fala usando Whisper.
A Apple reconheceu a necessidade de ambientes de desenvolvimento de aprendizado de máquina simples e abertos para estimular novos trabalhos nesta área. É importante ressaltar que o MLX funciona com chips da Apple, que agora são usados em todos os seus produtos, incluindo Mac, iPhone e iPad. O framework utiliza os recursos dos processadores central e gráfico, ajudando a alcançar um desempenho bastante elevado – talvez no futuro seja possível conectar o acelerador Neural Engine AI, que também está presente nesses chips.