斌叔OKmath
26-09-04 08:02 微博认证:橙旭园CEO 教育博主

🚨 NVIDIA 刚刚悄无声息地改变了“个人 AI 计算机”所能代表的含义。

认识一下 NVIDIA PAIR:个人 AI 路由器。

PAIR 让你连接你已有的计算机,将它们转变为个人 AI 推理集群,而不是购买一台巨大的机器来运行本地 AI。

你的 RTX PC。
你的 DGX Spark。
甚至支持的 Mac。
所有这些协同工作。
PAIR 会自动发现你本地网络上的兼容机器,并将 AI 工作负载路由到任何有可用计算资源的设备上。

你可以把它想象成运行在你家里的 AI 代理的负载均衡器。

而这正是事情变得有趣的地方:

→ 并行运行多个 AI 代理
→ 在多个 GPU/计算机间路由推理
→ 使用 Ollama + LM Studio
→ 将提示、文件和代理上下文保存在你自己的网络上
→ 无需机架或复杂的集群设置
→ 支持 Windows、Linux 和 macOS

这里更大的想法不仅仅是 PAIR。

而是 NVIDIA 对 AI 计算未来的设想。
如今我们有:
1 用户 → 1 台计算机 → 1 个 AI 模型
明天可能更像:
1 用户 → 多个 AI 代理 → 整个本地计算池
你的游戏 PC 可能运行一个代理。

你的工作站运行另一个。

DGX Spark 处理重量级模型。

而 PAIR 成为决定每个推理请求去向的路由器。

云不会消失。

但个人 AI 基础设施开始看起来更像一个微型数据中心。

而 NVIDIA 想要提供其底层的操作系统层。

PAIR 目前处于 beta 阶段,NVIDIA 已将其作为免费开源软件发布。

这个值得关注。👀

http://t.cn/AX0JYJOo

发布于 北京