群联 CEO:为什么 AI 必须部署在本地电脑?
在 PC 上运行 AI,速度当然不可能比云端更快。
但云端 AI 真正的问题,不是不好用,而是太贵。
一旦 Agent 开始长时间工作、反复推理、产生大量 token,成本就会像水管爆裂一样喷涌而出。
最后不是 AI 没能力,而是账单先把应用场景打死了。
所以,未来最合理的架构一定是混合 AI:
简单、重复、消耗大量 token 的工作,先放在本地 PC 端,用小模型处理。
真正需要强推理能力的复杂问题,再交给云端大模型。
按照群联内部测试,混合 AI 能够节省 70% 以上的 token 费用。
买最贵的 Mac,换来最低的 token 成本。
买得越多,省得越多。
发布于 日本
