A placa de expansão AI ​​HAT+ 2 para Raspberry Pi 5 já está disponível para execução local de Llama, DeepSeek e Qwen.

A Raspberry Pi lançou uma placa de expansão que permite executar modelos de IA generativa localmente no Raspberry Pi 5. Anunciada na quinta-feira, a AI HAT+ 2, de US$ 130, é uma versão aprimorada e mais cara do módulo lançado no ano passado. A placa de expansão agora oferece 8 GB de RAM e um chip Hailo 10H com desempenho de IA de 40 TOPS.

Fonte da imagem: Raspberry Pi

Uma vez conectado, o Raspberry Pi 5 usará o AI HAT+ 2 para lidar com tarefas relacionadas à IA, liberando o processador Arm principal para outras tarefas. Diferentemente da versão anterior do AI HAT+, que se concentrava no processamento de imagens por IA, o AI HAT+ 2 vem com RAM integrada e pode executar pequenos modelos generativos de IA, como Llama 3.2 e DeepSeek-R1-Distill, além de vários modelos Qwen. Este dispositivo também pode ser usado para treinar e refinar modelos de IA.

Uma demonstração publicada pela Raspberry Pi mostra como a placa adicional pode ser usada para executar um modelo de IA capaz de gerar descrições textuais de uma imagem de câmera e responder a perguntas sobre a presença de pessoas no enquadramento. Outra demonstração mostra como um modelo Qwen2 executado no AI HAT+ 2 pode ser usado para traduzir texto do francês para o inglês.

De acordo com o The Verge, citando o blogueiro de tecnologia Jeff Geerling, o computador de placa única Raspberry Pi 5 com 8 GB de RAM geralmente supera o AI HAT+ 2 em todos os modelos suportados. Geerling atribui o desempenho inferior do AI HAT+ 2 ao consumo de energia da placa de expansão, de apenas 3 watts, enquanto o Raspberry Pi 5 pode operar com um TDP de até 10 watts.Embora o AI ​​HAT+ 2 possa ser ideal para certos casos de uso, Girling observa que os 8 GB extras de RAM na placa adicional “não são suficientes para dar a este HAT uma vantagem sobre a compra de um Raspberry Pi 5 de gama superior com 16 GB de RAM, que será mais flexível e terá um desempenho mais rápido”.modelos.”

admin

Compartilhar
Publicado por
admin

Postagens recentes

QTS e Compass abandonaram a criação do maior campus de data center Digital Gateway do mundo após uma batalha de anos com residentes locais

A operadora de data center de propriedade da Blackstone, QTS, abandonou os planos de construir…

27 minutos atrás

A IA avançada do Fairwater Wisconsin Data Center da Microsoft não é apenas avançada, é barulhenta

A Microsoft anunciou recentemente o lançamento de seu data center mais avançado no projeto Fairwater…

27 minutos atrás

Sber lançou o GigaChat 3.5 Ultra – LLM tornou-se mais inteligente e está mais próximo do DeepSeek 3.2 em vários indicadores

\nSber apresentou um novo modelo principal, o GigaChat 3.5 Ultra, que está disponível gratuitamente para…

46 minutos atrás

Estudante japonês preso por atacar a Bandai Namco usando vírus gerado pelo ChatGPT

A polícia japonesa prendeu um residente local de 15 anos sob suspeita de realizar ataques…

46 minutos atrás

EA Sports FC 26, em plena Copa do Mundo, estabeleceu novo recorde de popularidade entre os simuladores de futebol da Electronic Arts no Steam

\nA Copa do Mundo FIFA de 2026, que acontece atualmente nos EUA, Canadá e México,…

46 minutos atrás

Bigme lançou o primeiro monitor de 25,3 polegadas do mundo com tela colorida E-Ink de 60 Hz

\nBigme lançou o primeiro monitor de 25,3 polegadas do mundo com tela colorida E Ink…

46 minutos atrás