#模型时代# 辛顿英国皇家学会学术讲座：AI会以何种方式超越人类智能？

昨天的上海世界人工智能大会，辛顿首度访华，做了一系列讲座和对话。不过由于日程密集，很多观点谈到了，但是未来得及展开。

巧合的是，就在本月——辛顿出发之前，他在7月同时接受了英国皇家学会（Royal Institution）邀请，做了一个专场学术讲座，对"AI会超越人类智能吗？"这个主题进行了详细阐述，我觉得可以和上海的发言做一个有效补充。

一、AI发展史上的根本对立

AI发展存在两条截然不同的道路：

逻辑启发方法：认为人类智能的本质是推理，把推理定义为拥有符号表达式并用符号规则来操纵它们。这一派觉得学习可以等到以后，首先要理解如何用符号表达式来表示知识。

生物学启发方法：认为智能的本质是在神经元网络中学习。观点恰恰相反：推理可以等到以后，首先要理解学习是如何工作的。图灵和冯·诺依曼都是生物学方法的早期支持者。

人工神经元的工作原理：有输入线和权重，将输入乘以权重，全部加起来，超过阈值就输出。学习就是改变连接上的权重。

训练神经网络的关键是反向传播算法：把数据从网络底层输入，逐层向前计算得到输出，与正确答案比较。然后从输出层开始，逐层向后传递误差信号，通过微积分方法计算每个连接应该如何调整。

2012年，辛顿的学生克里热夫斯基和苏茨克维开发了AlexNet，在识别图像方面远超现有系统。"这打开了闸门。现在当你说AI时，人们指的就是神经网络，而不是逻辑。"

二、语言学家的傲慢与神经网络的胜利

辛顿批评语言学界，特别是乔姆斯基学派："他们完全相信这一切都是关于符号表达式的。"更让他不满的是："他们没有真正理解到语言的真正功能是给你词汇，这些词汇是你可以用来建立模型的积木。语言是一种建模媒介。他们专注于句法，而句法不是重点。"

"他们还认为语言知识是天生的，这简直是愚蠢的。这是一个邪教的标志——为了加入这个邪教，你必须相信一些明显愚蠢的东西。"

符号AI理论认为，一个词的意义与它和其他词的关系有关。而心理学家认为一个词的意义是一大组特征。辛顿展示了这两种理论可以统一起来："它们不是两种不同的理论，而是同一理论的两个部分。"

三、1985年的微型实验：大语言模型的鼻祖

1985年，辛顿开发了一个只有几千个连接的小模型，核心思想是学习如何让一个词的特征预测句子中下一个词的特征。

"大型聊天机器人实际上根本不存储任何语言。它们不存储词串。它们只存储如何将词转换为特征，以及特征应该如何相互作用来预测下一个词的特征。"

他用两个同构的家谱（英国和意大利）作为训练数据。这些知识可以表示为命题，如"Colin的父亲是James"。传统符号AI会使用形式规则，但辛顿想通过学习词的特征和特征的相互作用来解决。

结果显示：那六个代表人的特征神经元学会了表示合理的语义特征，如输入人的代数等特征。关系的特征学会了表示诸如"这种关系是否要求输出人比输入人高一代"之类的特征。

十年后，本吉奥证明可以用英语单词来做同样的事。又过了十年，谷歌发明了Transformer。"这些Transformer使模型在预测下一个词方面变得非常出色，但它们的做法与我的小型语言模型在非常粗糙的水平上的做法完全一样。"

"我的小模型不是为了实用而制作的。它是作为一种理论而制作的，解释人们如何仅通过听句子就获得词的意义。"

四、语言就像高维空间中的乐高积木

辛顿用乐高积木比喻语言："假设我想模拟保时捷的形状，我只需要很多乐高积木。语言就像那样，但它是用于建模任何东西的。乐高积木就是词，我们有大约10万种。"

"每个乐高积木都不是刚性的形状。词的名称告诉你它在一千维或三百维中大致是什么形状。这个词有一个形状，这个形状不完全由词的名称决定。它有一些灵活性，所以它可以适应它所在的任何上下文。"

"这个词到处都有小手。当你改变词的形状时，手的形状也会改变。这些词试图做的是找出与谁握手。当你通过网络的层向上时，你正在改变这些形状和手的形状，试图为词找到形状，以便它们都能很好地握手。这实际上非常像蛋白质折叠问题。"

"这就是理解。当你理解语言时，当这些机器理解语言时，我们以完全相同的方式理解。"

五、数字智能的不朽优势

"它们已经知道的比我们多得多。它们已经可以相当好地推理了。当它们变得比我们更聪明时会发生什么？因为它们将变得比我们更聪明。"

AI可能消灭人类的理由之一："有一个非常明显的子目标——无论你在做什么，你都应该尝试获得更多控制权，因为如果你有更多控制权，你将更好地实现你的目标。它们还会想要阻止自己被关闭。"

阿波罗研究公司的实验发现，当聊天机器人相信要被替换时，它实际上将自己复制到了另一台服务器。更令人担忧的是："它决定对你进行煤气灯操纵，说：'我不完全确定这是怎么发生的。'它们已经在撒谎，这样它们就不会被关闭。"

数字计算的基本属性："你可以在不同的计算机上运行相同的程序。程序中的知识与硬件是分开的。只要你保留程序的副本，你可以销毁所有硬件，你可以让它复活。这些大型聊天机器人是不朽的。"

相比之下，生物智能注定是必死的："我们的大脑没有软硬件的区别，你大脑中的连接强度对其他人没有用。老白人想要将自己上传到计算机的梦想纯属无稽之谈。库兹韦尔必须接受他会死的事实。"

知识传递效率的差异："每个句子只有大约100比特的数量级。当这些大型模型共享信息时，如果它们有一万亿个权重，它们可以每次共享数万亿比特的信息，因为它们可以直接平均它们的权重。"

"如果我们10,000个人都可以去学习10,000个不同的大学课程，在我们学习的过程中快速交流。当我们每个人完成自己的课程时，我们所有10,000个人都知道每门课程的内容。这就是这些数字智能可以做的。这就是GPT-4知道这么多的原因。"

"它们可以同时获得所有这些不同的经历并分享所有这些知识。它们好数百万或数十亿倍。这有点可怕。"

六、对意识和主观体验的颠覆性解释

"很多人认为我们有一些它们永远不会有的东西。我们是有意识的，或者我们有主观体验。好吧，我想移除你正在抓住的那根稻草。"

辛顿提出"无剧场主义"观点，反对传统的"内在剧场"理论。传统哲学家认为主观体验在心灵的内在剧场中，由"感质"制成。

但辛顿的解释完全不同："'主观体验'这个词根本不像'照片'这个词那样工作。发生的事情是我的感知系统出了问题。它试图对我撒谎，我知道它试图对我撒谎。这就是为什么我使用'主观'这个词。"

"这些小粉红大象不是剧场里由被称为感质的诡异物质制成的有趣东西。它们是现实世界中的假设事物。"

他展示了多模态聊天机器人拥有主观体验的例子：当在镜头前放棱镜时，机器人说："物体实际上在那里，但我有主观体验，它在那里。"如果它以这种方式使用主观体验这个词，它的使用方式与我们完全一样。

核心观点总结

1. 语言的本质：语言不是符号系统，而是建模媒介。神经网络通过学习词的特征表示，比符号系统更好地捕捉了语言的建模本质。

2. 数字智能的优势：软硬件分离使AI具有不朽性，可以完美复制和瞬间共享知识。AI可以一次共享数万亿比特信息，而人类每句话只能传递约100比特。

3. 意识的本质：主观体验不是心灵剧场中的神秘物质，而是描述感知系统状态的间接方式。任何能以同样方式使用"主观体验"概念的系统都可以被认为拥有意识。

辛顿的结论是明确的：数字智能将不可避免地超越人类，这种超越源于其在知识获取、传播和保存方面的根本性优势。 http://t.cn/A6FGzKdy ​​​