A placa de expansão AI ​​HAT+ 2 para Raspberry Pi 5 já está disponível para execução local de Llama, DeepSeek e Qwen.

A Raspberry Pi lançou uma placa de expansão que permite executar modelos de IA generativa localmente no Raspberry Pi 5. Anunciada na quinta-feira, a AI HAT+ 2, de US$ 130, é uma versão aprimorada e mais cara do módulo lançado no ano passado. A placa de expansão agora oferece 8 GB de RAM e um chip Hailo 10H com desempenho de IA de 40 TOPS.

Fonte da imagem: Raspberry Pi

Uma vez conectado, o Raspberry Pi 5 usará o AI HAT+ 2 para lidar com tarefas relacionadas à IA, liberando o processador Arm principal para outras tarefas. Diferentemente da versão anterior do AI HAT+, que se concentrava no processamento de imagens por IA, o AI HAT+ 2 vem com RAM integrada e pode executar pequenos modelos generativos de IA, como Llama 3.2 e DeepSeek-R1-Distill, além de vários modelos Qwen. Este dispositivo também pode ser usado para treinar e refinar modelos de IA.

Uma demonstração publicada pela Raspberry Pi mostra como a placa adicional pode ser usada para executar um modelo de IA capaz de gerar descrições textuais de uma imagem de câmera e responder a perguntas sobre a presença de pessoas no enquadramento. Outra demonstração mostra como um modelo Qwen2 executado no AI HAT+ 2 pode ser usado para traduzir texto do francês para o inglês.

De acordo com o The Verge, citando o blogueiro de tecnologia Jeff Geerling, o computador de placa única Raspberry Pi 5 com 8 GB de RAM geralmente supera o AI HAT+ 2 em todos os modelos suportados. Geerling atribui o desempenho inferior do AI HAT+ 2 ao consumo de energia da placa de expansão, de apenas 3 watts, enquanto o Raspberry Pi 5 pode operar com um TDP de até 10 watts.Embora o AI ​​HAT+ 2 possa ser ideal para certos casos de uso, Girling observa que os 8 GB extras de RAM na placa adicional “não são suficientes para dar a este HAT uma vantagem sobre a compra de um Raspberry Pi 5 de gama superior com 16 GB de RAM, que será mais flexível e terá um desempenho mais rápido”.modelos.”

admin

Compartilhar
Publicado por
admin

Postagens recentes

A startup Replit apresentou uma ferramenta de IA que cria aplicativos prontos para iPhone com base em uma solicitação por mensagem de texto.

A Replit, startup especializada no desenvolvimento de aplicativos móveis com inteligência artificial, lançou uma ferramenta…

22 minutos atrás

Na China, um detector de matéria escura foi criado com base em uma previsão de 90 anos atrás, e funciona.

Uma equipe de físicos chineses obteve a primeira confirmação experimental direta do efeito Migdal —…

22 minutos atrás

A Sega anunciou uma demo de Yakuza Kiwami 3 – 40 minutos de gameplay do remake sem concessões.

O lançamento do jogo de ação e aventura Yakuza Kiwami 3 e sua expansão de…

1 hora atrás

O CEO da Gigabyte explica por que a Nvidia se beneficia mais produzindo algumas variantes da RTX 50 em vez de outras.

Paul Alcorn, editor-chefe do Tom's Hardware, conversou com Eddie Lin, CEO da Gigabyte, na CES…

2 horas atrás

A Cybenetics apresentou um protótipo de cabo resistente ao fogo que protegerá os conectores de energia das placas gráficas.

A Cybenetics Labs, um laboratório renomado por seus testes de fontes de alimentação, apresentou um…

2 horas atrás

A participação de mercado da Binance no setor de criptomoedas caiu para o nível mais baixo desde 2021, à medida que os usuários migram para corretoras fora dos EUA.

A corretora de criptomoedas Binance está perdendo competitividade à medida que outros players ganham participação…

2 horas atrás