NVIDIA Personal AI Router (PAIR)

# NVIDIA Personal AI Router(PAIR)产品介绍 ## 产品简介 NVIDIA Perso

LLM大模型 部分免费

产品简介

NVIDIA Personal AI Router(PAIR)是 NVIDIA 于 2026 年 9 月 11 日推出的免费开源工具,是一款运行在本地网络上的 AI 推理路由器。它可将家中或办公室内多台搭载 NVIDIA RTX 显卡、Apple M4 及以上芯片的电脑连成一个虚拟 AI 集群,智能分配推理请求到空闲机器,从而把分散的本地算力整合成个人 AI 集群。PAIR 通过 6 位配对码加 mTLS 双向认证确保通信安全,现已在 GitHub 开源。

核心功能

本地多机算力聚合:自动发现同一局域网内的所有兼容节点(支持 RTX 20 系及以上显卡、RTX Pro、DGX Spark、Apple M4 及以上芯片),将多台设备整合为统一的虚拟推理集群。

智能推理请求分发:自动识别各节点当前负载状态,将推理请求动态路由到空闲机器,实现多 Agent 并发工作流的高效调度。

Ollama / LM Studio 无缝对接:首发即支持 Ollama 和 LM Studio,覆盖当前最流行的两大本地 LLM 推理框架。

节点热插拔支持:集群中的节点可随时加入或移除,PAIR 自动感知节点状态变化并重新分配任务。

私有本地推理:所有推理数据完全保留在本地网络,不上传云端。

RTX 生态深度集成:专为 NVIDIA RTX 系列优化,官方 Demo 将 RTX Spark 笔记本、DGX Spark 桌面与 RTX 5090 三机并联,任务完成时间缩短约一半。

特色优势

家庭级 AI 集群零门槛:将多台电脑合起来跑 AI 从需要专业知识的服务器集群配置,变成普通用户下载安装即用的桌面工具。

多 Agent 并发效率翻倍:官方测试显示,三机并联相比单机推理任务完成时间缩短约 50%。

全平台覆盖:支持 Windows 11、Ubuntu 14.04、macOS Tahoe 等主流操作系统。

应用场景

个人开发者多 Agent 开发、小团队共享 GPU 算力、本地 AI 隐私增强场景、AI 艺术创作加速、边缘部署推理集群。

适用人群

有多台电脑的 AI 爱好者与独立开发者、小型 AI 产品团队(5 人以下)、对本地数据隐私有较高要求的企业用户、NVIDIA RTX 显卡用户(20 系及以上)。

官网

https://www.nvidia.com/en-us/ai-on-rtx/personal-ai-router/

团队信息

由 AI 猎手自动发现

评论与建议

0 条评论