A Nvidia lançou o software gratuito Personal AI Router (PAIR), que conecta computadores domésticos ociosos em um cluster distribuído para executar tarefas de IA. A ferramenta permite aproveitar os recursos de vários PCs e distribuir solicitações de IA locais entre eles sem a necessidade de adquirir hardware adicional.

Fonte da imagem: Nvidia

Como aponta o The Verge, apesar da palavra “roteador” em seu nome, o PAIR não é um dispositivo de rede físico. Trata-se de um software de código aberto que detecta automaticamente computadores compatíveis em uma rede local, conecta-os e os prepara para processar solicitações. O sistema é compatível com placas de vídeo GeForce RTX série 20 e mais recentes, aceleradores profissionais RTX Pro, sistemas DGX Spark e computadores Apple com chips M4 e mais recentes.

A principal característica da tecnologia é o balanceamento de carga inteligente. O PAIR direciona solicitações de inferência para os computadores disponíveis no momento, permitindo que vários dispositivos processem tarefas diferentes em paralelo. Os computadores permanecem sistemas independentes — seus recursos não são agrupados em uma única GPU virtual. Esse esquema é especialmente útil para agentes de IA, que dividem tarefas complexas em muitas operações menores.

O PAIR tenta utilizar o poder computacional dos dispositivos quando eles estão ociosos, para não interferir nas tarefas principais do usuário. A composição do cluster pode mudar dinamicamente: por exemplo, se o proprietário de um computador desktop iniciar um jogo que exige muitos recursos, o PAIR para de direcionar solicitações para ele e usa outros dispositivos disponíveis.

Durante sua apresentação, o gerente de produtos da Nvidia, Seth Schneider, usou o exemplo de uma família hipotética com uma série de equipamentos de hardware poderosos. Em seu cenário, o pai usa um laptop com RTX Spark e um desktop com DGX Spark, a mãe trabalha em um laptop com RTX 5090, a filha joga em um desktop gamer e o filho usa um MacBook Pro. Schneider estima que o poder computacional combinado dessa família excepcionalmente poderosa seja de aproximadamente 165 teraflops, uma parcela significativa dos quais geralmente fica ociosa. Um representante da Nvidia chamou essa situação de “uma verdadeira mina de ouro de tokens gratuitos”, mesmo levando em consideração os custos de eletricidade de uma residência americana média.

Um código de seis dígitos é usado para conectar os dispositivos, após o qual o canal de comunicação é protegido usando mTLS (Mutual Transport Layer Security). Isso cria um canal criptografado entre os computadores com autenticação mútua. Requisições, arquivos e o contexto do agente de IA permanecem dentro da rede doméstica e não são enviados para a nuvem. O PAIR não requer conexão com a internet; ela é necessária apenas para baixar modelos.

A versão beta do Personal AI Router já está disponível para download e é compatível com Windows, Linux e macOS. No lançamento, o PAIR é compatível com as populares ferramentas de IA local Ollama e LM Studio, fornecendo aos aplicativos um ponto único de acesso aos recursos computacionais de um cluster doméstico.

Além do lançamento do PAIR, a Nvidia anunciou a configuração simplificada de agentes de IA local para três aplicativos populares: Perplexity Portable Computer, Hermes Agent e OpenClaw.Novas ferramentas permitirão que proprietários de sistemas com placas gráficas Nvidia executando o Windows iniciem agentes locais com apenas alguns cliques, eliminando a necessidade de…A necessidade de configurar manualmente um ambiente de software complexo.

A Nvidia não espera que o usuário médio do PAIR precise de uma frota de computadores caros como o exemplo acima. De acordo com Schneider, uma configuração típica pode consistir em apenas um MacBook ou um laptop com Windows e um PC gamer.

By admin

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *