A placa de expansão AI ​​HAT+ 2 para Raspberry Pi 5 já está disponível para execução local de Llama, DeepSeek e Qwen.

A Raspberry Pi lançou uma placa de expansão que permite executar modelos de IA generativa localmente no Raspberry Pi 5. Anunciada na quinta-feira, a AI HAT+ 2, de US$ 130, é uma versão aprimorada e mais cara do módulo lançado no ano passado. A placa de expansão agora oferece 8 GB de RAM e um chip Hailo 10H com desempenho de IA de 40 TOPS.

Fonte da imagem: Raspberry Pi

Uma vez conectado, o Raspberry Pi 5 usará o AI HAT+ 2 para lidar com tarefas relacionadas à IA, liberando o processador Arm principal para outras tarefas. Diferentemente da versão anterior do AI HAT+, que se concentrava no processamento de imagens por IA, o AI HAT+ 2 vem com RAM integrada e pode executar pequenos modelos generativos de IA, como Llama 3.2 e DeepSeek-R1-Distill, além de vários modelos Qwen. Este dispositivo também pode ser usado para treinar e refinar modelos de IA.

Uma demonstração publicada pela Raspberry Pi mostra como a placa adicional pode ser usada para executar um modelo de IA capaz de gerar descrições textuais de uma imagem de câmera e responder a perguntas sobre a presença de pessoas no enquadramento. Outra demonstração mostra como um modelo Qwen2 executado no AI HAT+ 2 pode ser usado para traduzir texto do francês para o inglês.

De acordo com o The Verge, citando o blogueiro de tecnologia Jeff Geerling, o computador de placa única Raspberry Pi 5 com 8 GB de RAM geralmente supera o AI HAT+ 2 em todos os modelos suportados. Geerling atribui o desempenho inferior do AI HAT+ 2 ao consumo de energia da placa de expansão, de apenas 3 watts, enquanto o Raspberry Pi 5 pode operar com um TDP de até 10 watts.Embora o AI ​​HAT+ 2 possa ser ideal para certos casos de uso, Girling observa que os 8 GB extras de RAM na placa adicional “não são suficientes para dar a este HAT uma vantagem sobre a compra de um Raspberry Pi 5 de gama superior com 16 GB de RAM, que será mais flexível e terá um desempenho mais rápido”.modelos.”

admin

Compartilhar
Publicado por
admin

Postagens recentes

Jack Dorsey vai demitir quase metade dos funcionários da Block para substituí-los por inteligência artificial – ações disparam 24%

Jack Dorsey, ex-CEO do serviço de microblogging Twitter, anunciou que a Block, empresa de pagamentos…

33 minutos atrás

O Google Tradutor aprendeu a selecionar expressões idiomáticas com perfeição.

Toda língua possui expressões comuns, como "boa sorte" ou "enrolar". Esses idiomas são compreensíveis para…

33 minutos atrás

A maior estrela em nossa parte do Universo está prestes a explodir como uma supernova a qualquer momento – e não é Betelgeuse.

Uma das maiores e mais brilhantes estrelas da nossa região do Universo é considerada a…

33 minutos atrás

Escassez de memória afeta a Nvidia: preço do supercomputador desktop DGX Spark sobe para US$ 4.699

A Nvidia anunciou um aumento no preço de venda recomendado do seu mini-supercomputador DGX Spark…

46 minutos atrás

Um “disco voador” com ventiladores de duto foi apresentado na China — ideal para voos urbanos.

A grande maioria dos "carros voadores" que estão sendo desenvolvidos atualmente parece potencialmente perigosa, pois…

1 hora atrás

O Pentágono suspendeu os lançamentos do foguete Vulcan Centaur da ULA após uma segunda anomalia em três lançamentos.

O foguete Vulcan Centaur da United Launch Alliance (ULA), projetado para substituir o lendário Atlas…

1 hora atrás