Modelo de IA Llama lançado em um PC do último milênio baseado no Windows 98

Na esteira do entusiasmo em torno da IA ​​generativa, Marc Andreessen, cofundador da empresa de capital de risco Andreessen Horowitz, conduziu um experimento interessante. Recentemente, ele demonstrou como um pequeno modelo de IA, Llama, da Meta✴, roda com sucesso em um PC Dell de 26 anos com 128 MB de RAM e Windows 98. De acordo com Andreessen, a humanidade poderia ter se comunicado com IA generativa décadas atrás, se tal IA tivesse sido criada naquela época.

Fonte da imagem: pcmag.com

Andreessen não revelou o modelo específico de lhama usado nos testes, o que dificultou a replicação de seu experimento. Vale a pena notar que o modelo de IA Llama do Meta✴ consome menos poder de computação do que uma série de modelos muito maiores, mas ainda tem um impacto impressionante.

Andreessen sugeriu que executar o Llama em um PC Dell de 26 anos com Windows 98 significa que as pessoas poderiam ter tido “interações semelhantes às humanas” com seus computadores décadas atrás, pelo menos se a IA generativa existisse naquela época: “Todos aqueles PCs antigos poderiam ter sido literalmente inteligentes o tempo todo. Poderíamos estar nos comunicando com nossos computadores há 30 anos.”

Ele acredita que tais interações poderiam ter acontecido muito antes se os principais participantes tivessem aproveitado a oportunidade durante o boom anterior da IA ​​na década de 1980: “Muitas pessoas inteligentes nos anos 80 pensaram que tudo isso aconteceria naquela época”.

Fonte da imagem: Andreessen Horowitz

As alegações de Andreessen são apoiadas por um experimento anterior da Exo Labs, no qual os pesquisadores conseguiram executar uma versão modificada do Llama 2 em um PC com Windows 98 baseado em Pentium II. Conseguir isso não foi fácil. O que era necessário eram periféricos PS/2 compatíveis, uma maneira aceitável de transferir os arquivos necessários para o dispositivo legado, a compilação de código moderno para o dispositivo legado e a adaptação do próprio modelo.