🚨 NVIDIA 刚刚悄无声息地改变了“个人 AI 计算机”所能代表的含义。
认识一下 NVIDIA PAIR:个人 AI 路由器。
PAIR 让你连接你已有的计算机,将它们转变为个人 AI 推理集群,而不是购买一台巨大的机器来运行本地 AI。
你的 RTX PC。
你的 DGX Spark。
甚至支持的 Mac。
所有这些协同工作。
PAIR 会自动发现你本地网络上的兼容机器,并将 AI 工作负载路由到任何有可用计算资源的设备上。
你可以把它想象成运行在你家里的 AI 代理的负载均衡器。
而这正是事情变得有趣的地方:
→ 并行运行多个 AI 代理
→ 在多个 GPU/计算机间路由推理
→ 使用 Ollama + LM Studio
→ 将提示、文件和代理上下文保存在你自己的网络上
→ 无需机架或复杂的集群设置
→ 支持 Windows、Linux 和 macOS
这里更大的想法不仅仅是 PAIR。
而是 NVIDIA 对 AI 计算未来的设想。
如今我们有:
1 用户 → 1 台计算机 → 1 个 AI 模型
明天可能更像:
1 用户 → 多个 AI 代理 → 整个本地计算池
你的游戏 PC 可能运行一个代理。
你的工作站运行另一个。
DGX Spark 处理重量级模型。
而 PAIR 成为决定每个推理请求去向的路由器。
云不会消失。
但个人 AI 基础设施开始看起来更像一个微型数据中心。
而 NVIDIA 想要提供其底层的操作系统层。
PAIR 目前处于 beta 阶段,NVIDIA 已将其作为免费开源软件发布。
这个值得关注。👀
http://t.cn/AX0JYJOo
发布于 北京
