A placa de expansão AI ​​HAT+ 2 para Raspberry Pi 5 já está disponível para execução local de Llama, DeepSeek e Qwen.

A Raspberry Pi lançou uma placa de expansão que permite executar modelos de IA generativa localmente no Raspberry Pi 5. Anunciada na quinta-feira, a AI HAT+ 2, de US$ 130, é uma versão aprimorada e mais cara do módulo lançado no ano passado. A placa de expansão agora oferece 8 GB de RAM e um chip Hailo 10H com desempenho de IA de 40 TOPS.

Fonte da imagem: Raspberry Pi

Uma vez conectado, o Raspberry Pi 5 usará o AI HAT+ 2 para lidar com tarefas relacionadas à IA, liberando o processador Arm principal para outras tarefas. Diferentemente da versão anterior do AI HAT+, que se concentrava no processamento de imagens por IA, o AI HAT+ 2 vem com RAM integrada e pode executar pequenos modelos generativos de IA, como Llama 3.2 e DeepSeek-R1-Distill, além de vários modelos Qwen. Este dispositivo também pode ser usado para treinar e refinar modelos de IA.

Uma demonstração publicada pela Raspberry Pi mostra como a placa adicional pode ser usada para executar um modelo de IA capaz de gerar descrições textuais de uma imagem de câmera e responder a perguntas sobre a presença de pessoas no enquadramento. Outra demonstração mostra como um modelo Qwen2 executado no AI HAT+ 2 pode ser usado para traduzir texto do francês para o inglês.

De acordo com o The Verge, citando o blogueiro de tecnologia Jeff Geerling, o computador de placa única Raspberry Pi 5 com 8 GB de RAM geralmente supera o AI HAT+ 2 em todos os modelos suportados. Geerling atribui o desempenho inferior do AI HAT+ 2 ao consumo de energia da placa de expansão, de apenas 3 watts, enquanto o Raspberry Pi 5 pode operar com um TDP de até 10 watts.Embora o AI ​​HAT+ 2 possa ser ideal para certos casos de uso, Girling observa que os 8 GB extras de RAM na placa adicional “não são suficientes para dar a este HAT uma vantagem sobre a compra de um Raspberry Pi 5 de gama superior com 16 GB de RAM, que será mais flexível e terá um desempenho mais rápido”.modelos.”

admin

Compartilhar
Publicado por
admin

Postagens recentes

A Rockstar confirmou um vazamento de dados através da plataforma de análise de IA de terceiros, Anodot.

A Rockstar Games confirmou que dados corporativos foram comprometidos em decorrência de um ataque hacker…

8 horas atrás

O fundador da DeepSeek anunciou a data de lançamento do modelo principal V4.

O fundador da DeepSeek, Liang Wenfeng, confirmou durante uma reunião interna com funcionários que o…

8 horas atrás

Cientistas e engenheiros chineses estão retornando em massa dos Estados Unidos para seus países de origem.

Segundo o Financial Times, os principais polos industriais da China têm testemunhado uma tendência característica…

8 horas atrás

A autoridade reguladora holandesa aprovou o software de direção autônoma da Tesla no país.

A agência reguladora holandesa RDW aprovou o sistema de condução parcialmente automatizada da Tesla, conhecido…

8 horas atrás