Um entusiasta lançou um modelo moderno de IA em um console Xbox 360 de 20 anos

O usuário da rede social X Andrei David conseguiu instalar e executar um modelo de inteligência artificial no console Xbox 360 baseado no motor Llama2.c, que foi escrito na linguagem de programação C pelo ex-funcionário da OpenAI e da Tesla, Andrej Karpathy. O entusiasta foi motivado a fazer isso pelo trabalho de especialistas do EXO Lab, que no final do ano passado lançaram o Llama Large Language Model (LLM) em um computador de 26 anos com Windows 98.

Fonte da imagem: Shutterstock

Embora o entusiasta tenha usado o modelo de IA no mesmo motor do EXO Lab, ele teve que otimizar o código do programa para o processador PowerPC do console e as funções de gerenciamento de memória. A principal diferença é que no PowerPC, um sistema little-endian armazena primeiro os valores mais importantes, enquanto o processador Intel Pentium II usado em PCs armazena primeiro os valores menores. Para garantir que o modelo de IA funcionasse corretamente, David teve que adicionar um sistema de troca de bytes e garantir que todos os dados criados e armazenados estivessem devidamente alinhados aos 128 bytes de memória exigidos pelo subsistema de memória do Xbox 360.

Como resultado, o entusiasta lançou o modelo AI em um Xbox 360 com processador Xenon baseado na arquitetura PowerPC com 3 núcleos e frequência operacional de até 3,2 GHz, além de 512 MB de RAM. Executar um grande modelo de linguagem baseado no Llama 2 em um dispositivo com décadas de existência é uma conquista significativa. No entanto, um usuário da Plataforma X observou que os 512 MB de RAM no Xbox 360 deveriam ser suficientes para executar os algoritmos SmolLm do Hugging Face ou o modelo Qwen2.5 0,5B de 4 bits. “Desafio aceito”, escreveu David em resposta. Isso significa que ele tentará rodar outros modelos de IA no Xbox 360 no futuro.