开眼视点
26-07-07 09:01 微博认证:C114通信人家园3G版主、专栏作者李建昆,出版作品有《如影随形》 科技博主

未来的 AGI,可能根本不是一个模型。
我们一直在等一个什么都会的“超级大脑”:
会写代码、做研究、看合同、分析疾病,还能独立完成所有任务。
但 Google DeepMind 研究员 Nenad Tomašev 提出了另一种更有意思的可能:
未来也许会出现一个由大量专家模型组成的 AI 社会。
通用模型负责理解目标和调度,专家模型负责各自最擅长的任务。
就像 Gemini 可以下棋,但真正追求速度和准确率时,我们还是会选择专门的棋类引擎。
因为专家模型通常更快、更便宜,也更容易针对具体能力进行验证。
不过,这也把 AI 安全带进了一个更难的阶段:
当 10,000 个 Agent 不断更换合作对象、互相委托任务时,我们要对齐的就不再是一个模型,而是一整个动态系统。
每个 Agent 都安全,不代表它们组成的“社会”一定安全。
也许 AGI 的终局,不是复制一个无所不能的人,
而是复制人类通过分工与协作形成的集体智能。
你更相信哪条路线:一个超级模型,还是一个 AI 社会?

发布于 安徽