A Raspberry Pi lançou uma placa de expansão que permite executar modelos de IA generativa localmente no Raspberry Pi 5. Anunciada na quinta-feira, a AI HAT+ 2, de US$ 130, é uma versão aprimorada e mais cara do módulo lançado no ano passado. A placa de expansão agora oferece 8 GB de RAM e um chip Hailo 10H com desempenho de IA de 40 TOPS.
Fonte da imagem: Raspberry Pi
Uma vez conectado, o Raspberry Pi 5 usará o AI HAT+ 2 para lidar com tarefas relacionadas à IA, liberando o processador Arm principal para outras tarefas. Diferentemente da versão anterior do AI HAT+, que se concentrava no processamento de imagens por IA, o AI HAT+ 2 vem com RAM integrada e pode executar pequenos modelos generativos de IA, como Llama 3.2 e DeepSeek-R1-Distill, além de vários modelos Qwen. Este dispositivo também pode ser usado para treinar e refinar modelos de IA.
Uma demonstração publicada pela Raspberry Pi mostra como a placa adicional pode ser usada para executar um modelo de IA capaz de gerar descrições textuais de uma imagem de câmera e responder a perguntas sobre a presença de pessoas no enquadramento. Outra demonstração mostra como um modelo Qwen2 executado no AI HAT+ 2 pode ser usado para traduzir texto do francês para o inglês.
De acordo com o The Verge, citando o blogueiro de tecnologia Jeff Geerling, o computador de placa única Raspberry Pi 5 com 8 GB de RAM geralmente supera o AI HAT+ 2 em todos os modelos suportados. Geerling atribui o desempenho inferior do AI HAT+ 2 ao consumo de energia da placa de expansão, de apenas 3 watts, enquanto o Raspberry Pi 5 pode operar com um TDP de até 10 watts.Embora o AI HAT+ 2 possa ser ideal para certos casos de uso, Girling observa que os 8 GB extras de RAM na placa adicional “não são suficientes para dar a este HAT uma vantagem sobre a compra de um Raspberry Pi 5 de gama superior com 16 GB de RAM, que será mais flexível e terá um desempenho mais rápido”.modelos.”