A Nvidia atualizou seu aplicativo ChatRTX para executar chatbots de IA locais, adicionando suporte para novos modelos de IA. Inicialmente, o aplicativo oferecia suporte aos modelos Mistral e Llama 2 AI. A versão atualizada recebeu suporte aos modelos Gemma do Google, ChatGLM3, além do CLIP da OpenAI, que simplifica a busca por fotos e imagens.
Fonte da imagem: NVIDIA
A Nvidia lançou a primeira versão do ChatRTX em fevereiro deste ano como um aplicativo de demonstração chamado Chat with RTX. Requer uma placa de vídeo da série GeForce RTX 3000 ou RTX 4000 com pelo menos 8 GB de memória. A aplicação cria um servidor local para o chatbot, que é acessado através de um navegador. Ele pode processar arquivos de computador, vídeos do YouTube e responder perguntas, fornecendo respostas relevantes com base nos vídeos e documentos do usuário.
O modelo Gemma AI do Google foi projetado para funcionar em laptops e desktops poderosos. É uma versão aberta do modelo Gemini AI e é adequada para resolver problemas relativamente pequenos, por exemplo, preparar notas para textos grandes. O ChatGLM3, por sua vez, é um modelo aberto bilíngue (suporta inglês e chinês) de grandes idiomas. OpenAI Contrastive Language-Image (CLIP) permite ao usuário pesquisar fotos e imagens no computador.
Além disso, a nova versão do ChatRTX adiciona suporte para solicitações de voz por meio do sistema de reconhecimento de fala Whisper. Você pode baixar o ChatRTX do site oficial da Nvidia.