A Apple lançou modelos de linguagem pequena OpenELM que rodam localmente em smartphones e laptops

A Apple tem sido discreta sobre seus planos para IA generativa, mas demonstrou interesse significativo em ser capaz de executar modelos de IA localmente em seus dispositivos.

Fonte da imagem: Bangyu Wang/unsplash.com

Os pesquisadores da Apple revelaram hoje oito modelos de linguagem OpenELM extremamente pequenos, adicionando-os à biblioteca Hugging Face. Nos comentários, a Apple disse que esses “Modelos de linguagem eficientes de código aberto” (OpenELM) são ótimos para tarefas baseadas em texto, como escrever e-mails. E todos esses modelos já estão disponíveis para desenvolvedores.

A série OpenELM de modelos de IA possui variedades com diferentes conjuntos de parâmetros: 270 e 450 milhões, 1,1 e 3 bilhões. Aqui, os parâmetros referem-se ao número de variáveis ​​que o modelo usa ao tomar decisões com base em conjuntos de dados de treinamento. Por exemplo, o recém-lançado Phi-3 da Microsoft tem 3,8 bilhões de parâmetros e o Gemma do Google tem 2,2 bilhões. No entanto, os modelos menores são mais baratos de usar e otimizados para uso em telefones e laptops.

A Apple permite que o OpenELM seja usado sob uma “licença de código de amostra” em conjunto com vários benchmarks de treinamento, estatísticas de desempenho de modelo, pré-treinamento, avaliação e instruções de ajuste. Esta licença não proíbe o uso comercial ou a modificação do código, mas exige a redistribuição do software Apple juntamente com a licença e a isenção de responsabilidade. Este último implica a falta de garantias de segurança e a possibilidade de respostas imprecisas, tendenciosas, inaceitáveis ​​e até prejudiciais às solicitações dos utilizadores.