A placa de expansão AI ​​HAT+ 2 para Raspberry Pi 5 já está disponível para execução local de Llama, DeepSeek e Qwen.

A Raspberry Pi lançou uma placa de expansão que permite executar modelos de IA generativa localmente no Raspberry Pi 5. Anunciada na quinta-feira, a AI HAT+ 2, de US$ 130, é uma versão aprimorada e mais cara do módulo lançado no ano passado. A placa de expansão agora oferece 8 GB de RAM e um chip Hailo 10H com desempenho de IA de 40 TOPS.

Fonte da imagem: Raspberry Pi

Uma vez conectado, o Raspberry Pi 5 usará o AI HAT+ 2 para lidar com tarefas relacionadas à IA, liberando o processador Arm principal para outras tarefas. Diferentemente da versão anterior do AI HAT+, que se concentrava no processamento de imagens por IA, o AI HAT+ 2 vem com RAM integrada e pode executar pequenos modelos generativos de IA, como Llama 3.2 e DeepSeek-R1-Distill, além de vários modelos Qwen. Este dispositivo também pode ser usado para treinar e refinar modelos de IA.

Uma demonstração publicada pela Raspberry Pi mostra como a placa adicional pode ser usada para executar um modelo de IA capaz de gerar descrições textuais de uma imagem de câmera e responder a perguntas sobre a presença de pessoas no enquadramento. Outra demonstração mostra como um modelo Qwen2 executado no AI HAT+ 2 pode ser usado para traduzir texto do francês para o inglês.

De acordo com o The Verge, citando o blogueiro de tecnologia Jeff Geerling, o computador de placa única Raspberry Pi 5 com 8 GB de RAM geralmente supera o AI HAT+ 2 em todos os modelos suportados. Geerling atribui o desempenho inferior do AI HAT+ 2 ao consumo de energia da placa de expansão, de apenas 3 watts, enquanto o Raspberry Pi 5 pode operar com um TDP de até 10 watts.Embora o AI ​​HAT+ 2 possa ser ideal para certos casos de uso, Girling observa que os 8 GB extras de RAM na placa adicional “não são suficientes para dar a este HAT uma vantagem sobre a compra de um Raspberry Pi 5 de gama superior com 16 GB de RAM, que será mais flexível e terá um desempenho mais rápido”.modelos.”

admin

Compartilhar
Publicado por
admin

Postagens recentes

Por enquanto, não haverá novas placas GeForce RTX, e a Nvidia também reduzirá a produção das placas gráficas existentes em 30 a 40%.

O boom da IA ​​causou não apenas escassez de memória, mas também alta demanda pelos…

1 hora atrás

A Microsoft ocultou as configurações de armazenamento do Windows 11 dos usuários comuns.

A Microsoft atualizou as regras de segurança do Windows 11. Agora, são necessários privilégios de…

1 hora atrás

Filmes para a Lua estão a caminho: a NASA permitiu que astronautas levassem smartphones para o espaço pela primeira vez.

A área aeroespacial é considerada tecnologicamente avançada, mas dispositivos comuns e banais como smartphones eram…

2 horas atrás

Em vez de Baldur’s Gate 4, da Larian, será lançada uma série baseada em Baldur’s Gate 3 pela HBO e pelo co-criador de The Last of Us.

O estúdio belga Larian Studios, liderado por Swen Vincke, cancelou Baldur's Gate 4, mas uma…

2 horas atrás

A iFixit desmontou o novo AirTag e descobriu um problema antigo.

A equipe da Fixit desmontou o rastreador AirTag 2, seguindo sua tradição de examinar todos…

3 horas atrás