谷歌Deepmind的一篇论文，讨论“通用人工智能”的定义和达到路径。

▪️ AGI：人类水平的通用人工智能（human-level artificial general intelligence）。一个和单个人类差不多聪明的系统，在绝大多数认知任务上达到普通人水平。

▪️ ASI：人工通用超级智能（artificial general superintelligence）。一个在几乎所有人类关切的领域和任务上都具备超人类能力的系统。ASI 不仅比单个人强，还要比由成千上万人类专家组成的、协调良好的大型团队更强。AlphaFold（只会预测蛋白质结构）和 AlphaGo（只会下围棋）这种只在单一领域超人的系统，不算 ASI。

[注]：一个在所有任务上都达到人类专家级别（但没有超越）的系统，也构成了一种超级智能，介于 AGI 和 ASI 定义之间。

▪️ UAI：通用人工智能（Universal AI），是超级智能的理论极限。它在数学上被一个叫 AIXI 的智能体精确定义了。

可以把 AIXI 想象成“理论上可能存在的最聪明的东西”，一个在所有可计算任务上平均得分最高的理想智能体，它能面对一个完全未知的世界，一边试、一边看结果、一边更新自己对世界的理解，同时优化自己的长远得分。

UAI 只能用越来越强的 ASI 从下面去逼近。

〰️〰️〰️〰️〰️〰️

即使 AI 远超人类智能水平，也不意味着它就是全知全能的。它依然受到一些基本的物理学和复杂性理论限制。

ASI 面临的根本性限制包括：

▪️ 计算复杂性：有些问题（NP 难问题）在理论上是可解的，但实际上需要的计算量会随问题规模爆炸式增长。

▪️ 物理限制：能量的获得和利用受热力学定律限制。

▪️ 逻辑限制：哥德尔不完备定理意味着没有任何形式系统能证明关于自身所有为真的命题。

▪️ 信息论限制：预测和决策在根本上受到信息获取速度和质量的约束。

▪️ 不确定性：即使是最聪明的智能体也无法百分之百预测未来，因为量子力学和混沌系统在底层就不允许。

这些理论限制并不会直接告诉我们 ASI 具体能做什么、不能做什么，比如它能不能治愈衰老、能不能模拟完整的人脑、能不能解决气候变化问题……这些问题我们今天还无法回答。

这些限制只是说 ASI 不是神，但它到底能走多远，我们还不确定。

〰️〰️〰️〰️〰️〰️

超级智能是否“超级有创造力”？

2016 年 AlphaGo 对李世石第二局第 37 手（“神之一手”）经常被引为 AI 创造力的早期标志。李世石赛后说：“我以为 AlphaGo 只是基于概率计算，只是一台机器。但看到这一步，我改变了想法。AlphaGo 确实是有创造力的。这一步棋真的很有创意，很美。”

Margaret Boden 给创造力分过三个层次：

▪️ 组合性创造力：把熟悉的元素用不熟悉的方式组合（比如诗歌比喻、工程创新）

▪️ 探索性创造力：在已有概念空间内找到新元素（比如在已知风格里写新曲子、或在已知游戏里发现新招，AlphaGo 第 37 手属于这类）

▪️ 变革性创造力：创造全新的概念空间或思维方式（比如量子力学、相对论、立体派绘画、发明一种全新的游戏类型）

AI 到目前的成就（第 37 手、自动证明新定理、AlphaFold 发现新蛋白质结构），主要都属于前两个层次的创造力。变革性创造力（第三个层次）可能是 ASI 的标志性要求。

就像 Google DeepMind CEO Demis Hassabis 说的那个“真正测试”：如果我们回到 1900 年爱因斯坦的时代，给 AI 爱因斯坦当时掌握的全部信息，它能自己搞出广义相对论吗？今天显然不能——“还有些东西缺失”。

发明引发库恩式“范式革命”的新科学理论，才是真正意义上的变革性创造力。

arXiv:2606.12683 [cs.AI]