高飞
26-05-20 22:06 微博认证:至顶科技创始人 AI博主

#模型时代# Brian Cox圆桌:什么是意识?

前几天我发了一个Brian Cox 的播客,然后说大家可能不熟悉他,结果好多人同学留言,人家很知名好不好。我检讨。

今天继续发一期Brian Cox(作为主持人)的内容。但谈的是一期,和人工智能更有关系的话题:意识。现在我们应该没有人怀疑AI有智力了,剩下的就是AI到底有没有意识。

这期节目是在伦敦Francis Crick研究所录制的。四位嘉宾分别是Anil Seth(苏塞克斯大学意识科学中心主任,2021年出版畅销书Being You,2025年获Berggruen意识研究论文奖),Katharina Schmack(Francis Crick研究所临床课题组长,精神科医生,用小鼠模型研究精神病性幻觉的神经回路),Steve Fleming(UCL认知神经科学教授,领导元认知实验室,研究人类如何区分想象与现实),以及Alex O'Connor(哲学播客Within Reason主持人,非科学家,擅长跨学科对话)。

Anil Seth在2026年4月的TED大会上刚做了一个新演讲,题为"Why AI isn't going to become conscious",延续了他在这场圆桌中的核心立场。Fleming与同事Nadine Dijkstra的"现实监控"研究在2025年发表于Neuron,首次在神经层面定位了人脑区分想象与现实的机制。Schmack团队用小鼠建立幻觉行为模型的方法,正在为精神分裂症的新疗法开发提供靶点。

一、什么是意识?四个人达成了唯一一次完全共识

1、意识的最小定义:存在"像什么"的体验

哲学家Thomas Nagel在1974年给出了一个极简定义:做一个有意识的生物,总有一种"身在其中"的感觉。用他的原话说,for a conscious organism, there is something it is like to be that organism。做你有一种感觉,做我也有一种感觉,但做一张桌子没有任何感觉。他那篇论文的标题就叫"What Is It Like to Be a Bat?"(做一只蝙蝠是什么感觉?),用蝙蝠来说明:即使我们掌握了蝙蝠用声纳感知世界的全部生理细节,我们仍然不知道做一只蝙蝠是什么体验。

Seth、Schmack、Fleming和O'Connor四个人全部接受这个定义,这在整场讨论中是唯一一次完全一致。O'Connor补充了一个关键点:正因为意识的核心在于主观性,它才对追求客观性的科学构成根本挑战。

2、共识之下埋着分歧的种子

四人虽然都接受Nagel的定义,但对"主观体验"这个词的理解其实各有侧重。Fleming和Schmack偏向把意识理解为一个过程、一组功能,可以通过实验手段逐步逼近。O'Connor则坚持意识的本质是"它是什么",而科学只能告诉我们"它做什么"。这条裂缝在后面的每个话题中都会反复出现。

二、大脑里能"看到"意识吗?

3、能看到指纹,看不到手指本身

Seth的说法精确:我们能看到意识在大脑中留下的"指纹"和"脚印",但看不到意识本身。上世纪90年代,意识科学重新起步,核心策略是先搁置"意识究竟是什么"这种哲学问题,转而研究意识的神经关联物,英文叫neural correlates of consciousness。通过脑成像技术,研究者发现大脑活动和意识体验之间存在强相关。

但相关不等于等同。O'Connor把这个区别说得更尖锐:你可以用最先进的仪器把一个正在听幻觉声音的人的大脑扫描到极致,你会知道他大脑在做什么的一切,但你不会知道听到那个声音是什么样的。如果我们同意意识就是"像什么的体验",那么脑科学研究的对象严格来说不是意识本身,而是与意识相关的大脑活动。

4、Seth的反驳:科学不需要"成为"研究对象

Seth不完全同意O'Connor的限制。他的论点是:科学研究很多事物时都从相关性开始,天文观测中的相关性帮我们理解了太阳系的结构。更重要的是,现在意识研究已经不只停留在相关性层面,而是在发展理论,试图解释为什么我们看到特定的相关模式。这些理论可以解释为什么视觉体验和听觉体验不同,为什么情绪有特定的感受。

回到Nagel的蝙蝠:就算科学永远不能让你体验到做一只蝙蝠是什么感觉,这个标准也太高了。我们通常不要求科学做到这一步。我们要求科学解释、预测、帮助我们控制事物。如果能做到这些,意识科学就算成功。

5、大脑对同一刺激的反应取决于你是否"注意到了"

Schmack提供了一个实验层面的关键证据:大脑并不总是以可预测的方式回应外部刺激。有时候你看到一个东西,你感知到了它;有时候看到同样的东西,你根本没注意到。大脑在这两种情况下的活动模式明显不同。

这说明大脑中确实存在某种机制,在"有意识体验"和"无意识体验"之间划出了分界线。不管我们怎么定义意识,至少可以在大脑中看到主观体验的痕迹。

三、你的手机真的振了吗?幻觉如何照亮意识的工作机制

6、"幻振"是一种迷你幻觉,每个人都会有

Schmack举了一个日常的例子:你在等一条消息或一个电话,手机放在口袋里,你会开始感觉它在振动。拿出来一看,什么都没发生。原因是你的期望会像外部刺激一样影响你的感知。

这就是她理解幻觉的框架。精神病性幻觉,比如听到不存在的声音,和这个原理类似,只是程度更极端:大脑生成的内部信号被当成了来自外部世界的真实信号。

7、小鼠实验:幻觉可以在动物身上测量、操控、治疗

Schmack团队设计了一个实验:给小鼠播放或不播放声音,训练它们用不同的动作告诉实验者是否听到了声音,以及它们对自己判断有多确定。有时候没有播放任何声音,但小鼠报告听到了,而且确定程度很高,这就是"类幻觉感知"。

过去5到10年间,神经科学获得了一个重大突破:可以同时记录数千个神经元的活动。利用这些工具,研究者还可以用光照射大脑特定区域来操控神经回路。Schmack团队由此发现,多巴胺是驱动这些"无中生有"的感知的关键信号。这个发现可以直接反馈到人类精神分裂症的药物研发中。

Schmack还提到,精神病性幻觉大多基于过去经验,从来没有听过语言的人不太可能听到声音。但迷幻药引发的幻觉不同,经常出现几何图案,而这些图案并不需要先前经验。不同类型幻觉背后的机制是否相同,仍然是一个开放问题。

8、想象和现实的边界比你以为的模糊得多

Fleming与UCL同事Nadine Dijkstra的实验揭示了另一个令人不安的事实。他们让受试者想象电脑屏幕上的简单图案,然后悄悄把真实图案淡入屏幕。结果,受试者经常分不清哪个是自己想象的、哪个是真实呈现的。

Fleming认为,前额叶皮层区域在执行一种"现实监控"功能:评估感觉信号的强度和可靠性,判断它到底是来自外部世界还是内部生成的。当这个监控机制出问题时,想象和现实的边界就会崩塌。这可能是理解精神分裂症中幻觉和妄想的一把钥匙。

9、Schmack:不要叫"客观现实",叫"共享现实"

Schmack作为精神科医生,对"客观现实"这个说法相当反感。精神病患者在出现幻觉和妄想时,那些体验对他们自己来说是完全真实的,和我们的正常感知同样有效。问题出在这些体验与社会中其他人的感知偏离太远,变得不具适应性,患者因此痛苦。

所以更准确的框架不是"与客观现实脱节",而是"与共享现实脱节"。世界上并不存在一个固定的"正确"现实等着你去对齐。所有的感知都是大脑建构的,区别只在于你的建构和其他人的建构重合到什么程度。

四、没有记忆的意识还是意识吗?

10、意识出乎意料地"慢":它拖着半秒钟的过去

Fleming指出,心理物理学实验,就是用精确控制的刺激来量化人的主观感受的那套方法,表明意识的时间整合窗口大约有半秒。在这半秒内,你可以打乱刺激的顺序,受试者不会注意到,他们会把这些刺激整合成一个统一的体验。换句话说,意识永远在"拖着"最近的过去一起走。

19世纪心理学先驱William James提出了specious present的概念,翻译过来就是"虚假的现在",描述的正是这一点:当下的时刻既包含对未来的微小预期,也保留着过去的回声。诺贝尔奖得主、神经科学家Gerald Edelman管这叫the remembered present,即"被记忆的现在"。

Seth在这里强调了一个常被忽略的事实:记忆不是一种东西。闭上眼睛你有大约半秒的视觉残留,这是一种记忆。你记得昨天的早餐,这是完全不同时间尺度上的另一种记忆。在较长的时间尺度上,可以清楚看到记忆和意识之间的分离。

11、Clive Wearing:记忆全部消失,意识仍然存在

英国音乐家Clive Wearing在1985年因病毒性脑炎丧失了形成新记忆的能力,此后一直活在"永恒的当下"中。每隔几秒钟他就会说"这是我这辈子第一次看到人类"。但他认得妻子的脸,虽然有时记不住她的名字。坐到钢琴前就能流畅演奏,尽管他不记得自己5分钟前弹过琴。

这个案例证明了一件事:长期记忆对意识不是必需的。你可以完全没有关于过去的记忆,但仍然是有意识的。不过,它确实深刻影响了我们对"自我是谁"的体验。Seth还由此引申到痴呆和阿尔茨海默症:它们通常被当作记忆障碍来理解,但如果从意识的角度去看,患者对世界和自我的体验发生了怎样的变化,可能会打开有价值的新视角。

12、O'Connor的思想实验:如果连瞬时记忆都没有呢?

O'Connor把这个问题推到了极端。想象一个人从高处坠落,但在每一个瞬间都没有任何记忆,没有前一刻可以对比。你甚至不会知道自己在坠落,因为"坠落"这个概念需要把上一刻和下一刻联系起来。你甚至可能感觉不到风,因为"感觉到风"这件事本身也需要时间来处理。

O'Connor认为,这个思想实验说明意识可能比我们以为的简单得多。我们把意识和大脑的复杂性绑在一起,但记忆、情绪、自我认同属于意识能做到的事情,但它们本身不等于意识。

Fleming从同一个思想实验得出了相反的结论:正是因为你无法想象去掉所有记忆和时间感之后还剩下什么样的体验,所以意识可能就是一个过程,无法在单一时间切片中被隔离出来。

13、意识有什么用?Schmack的篝火理论

Schmack作为精神科医生,经常目睹意识带来的痛苦。如果没有意识,就没有疼痛体验。她有时候会想:意识是不是进化的一个残酷偶然?

她自己给出了一个进化论的回答。想象一群人围着篝火聚会,突然一个人睁大眼睛盯着某个角落。因为你知道恐惧是什么感觉,你能立即推断那个角落可能有危险,也许是一头熊。你不需要自己看到熊,你通过模拟对方的内在状态就获取了关键信息。

这就是意识的进化价值:它让我们能够利用他人的主观体验作为信息源。你知道恐惧、疼痛、愉悦是什么感觉,所以你能读懂别人正在经历什么、是什么触发了他们、他们接下来会做什么。这种能力把每个有意识的个体变成了群体中其他成员的预警系统。

五、动物和植物有意识吗?道德问题比科学问题更紧迫

14、章鱼的欺骗能力让科学家重新评估"哪些动物有意识"

Fleming的策略是从人类已知的功能出发向外推广。如果意识在人类身上与一组特定的心理功能相关联,那就去其他动物身上找类似的功能。近年来动物认知研究发现,章鱼表现出惊人的欺骗能力和心智理论,就是推测他者心理状态的能力,英文叫theory of mind。这让研究者不得不认真考虑:它拥有我们在人类身上与意识关联的那种认知能力。

但这个策略对植物和微生物失效了。你没办法对它们做任何心理学实验。

15、Seth认为植物几乎肯定没有意识,关键理由是"意识出奇地容易丧失"

Seth的推理是:在人类和其他动物身上,意识非常容易失去。全身麻醉、深度睡眠、脑损伤都能让意识消失。一个这么脆弱的东西,在没有明显迹象的系统中把它随便归上去,是要谨慎的。植物既没有表现出与意识相关的行为,也不具备已知与意识相关的神经结构。

O'Connor同意意识可能存在连续谱,从人类到猿类到狗到蜗牛到更简单的生物。但他指出,如果连续谱的底端是一种没有记忆、没有快乐和痛苦、没有偏好、没有情感的极度原始的存在,那基本上就是"无"。如果你无法想象那种东西还能有意识,植物就不太可能有。

16、意识问题不只是学术好奇心,它决定了道德地图的边界

Seth把这个问题拉回了最实际的层面:意识是我们几乎全部道德和伦理推理的基础。如果一个东西有意识,它就应该拥有某种道德地位。所以"哪些动物有意识""意识在宇宙中延伸到多远"是一个紧迫的实践问题,即使无法给出确定答案。

六、泛心论、整合信息论和200种意识理论

17、意识理论目前有大约200种,从哲学到可测试的科学假说都有

Seth参与合著的一篇论文梳理了20种主要理论,另一篇综述列出了约200种。它们分成两大类:一类是形而上学的世界观,比如泛心论;一类是试图用机制解释特定大脑为什么产生意识的科学理论。

18、泛心论:通过假设意识已经存在来"解决"意识问题

泛心论,英文叫panpsychism,认为意识是宇宙基本属性,像质量或能量一样内建于最底层。O'Connor解释了它的吸引力。传统上哲学给了两条路:一条是二元论,认为灵魂和身体是两种截然不同的实体;另一条是物质主义,认为只有原子和它们的相互作用,把它们拼对了就冒出了意识。两条路都让人困惑。O'Connor的比喻是,物质主义就像2+2+2+5+7加着加着突然得出了一个"橙色",跨了类别。泛心论说,也许有第三条路:意识本来就在最底层。

Seth认为这条路走不通:它通过假设意识本来就在那儿来消解问题,但同时制造了一堆同样棘手的新问题,比如那些极度原始的"意识微粒"怎么组合成我们这样统一的自我?他的判断标准是:一个理论有没有用?泛心论没有实验可测试性,所以在他看来用处不大。

19、整合信息论:有争议,但"有资格犯错"

整合信息论,全称Integrated Information Theory,简称IIT,是另一类理论,试图说明为什么特定结构的大脑能产生意识。它的争议在于,按照它的逻辑,意识不仅是大脑的属性,也可能是许多其他共享某些特征的系统的属性,这让它难以被直接检验。

Seth个人不支持IIT,但他给了一个宽容的评价:"它有资格犯错。"一个理论如果能引导我们做出原本不会做的实验,就算最终被证伪,也是有价值的。

20、Fleming的强烈反对:这些理论在试图解决一个不存在的问题

Fleming在这个话题上比Seth更直接。他认为泛心论和类似的形而上学世界观在主张一件事:我们必须彻底改变对宇宙的认知,才能解释意识。Fleming觉得这是因为它们把意识定义成了某种横跨所有系统都需要解释的内在本质,然后沿着这条路越走越远,离我们实际知道最多的人类案例越来越远。

他的主张是:紧贴心理学,从人类出发,把意识当作有心理活动的主体的属性来研究。

O'Connor则做了一个精彩的收尾:"如果你想知道意识是什么,而不只是它做什么,你就必然踏入了哲学的领地。那是一片思想的无人区。欢迎大家。"

七、自由意志:Libet实验可能被误读了

21、上世纪80年代的经典实验如今遭到计算模型的挑战

神经科学家Benjamin Libet在1983年的实验显示,在受试者意识到自己做出选择之前,大脑中就已经能检测到与该选择相关的信号。这长期以来被解读为"意识只是旁观者,决定在意识之前就做好了"。

Fleming指出,最近的计算模型提出了不同的解释:问题出在数据分析方法上。研究者把很多次实验的脑电信号按"受试者报告意识到决定的那一刻"对齐叠放,然后看之前发生了什么。这就像拿一百张生日派对照片按"吹蜡烛"那一帧对齐,你会看到之前有一个"人越凑越近蛋糕"的趋势,但这个趋势是你选择了对齐点之后才浮现的统计假象,并不意味着吹蜡烛是被"提前决定"的。现在学界在逐渐放弃Libet实验的传统解读。

22、Seth:意识是参与者,我们拥有的自由已经够用了

Seth的立场是:意识不是旁观者,是参与者。但他也认为我们不需要那种"意识伸手进大脑改变物理运行"的自由意志。解释人类行为和我们对自主感的体验,用不着那么强的假设。

我们实际拥有的自由是更朴素的一种:能够摆脱即时刺激的束缚,做出不完全由当下环境决定的行为。Seth认为,这就是我们需要的全部自由意志,也是我们实际拥有的全部。

23、裂脑实验:左脑是一个"故事编造器"

O'Connor用裂脑患者的实验来讨论一个更深层的问题。大脑分为两个半球,曾经有一种治疗严重癫痫的方法是切断连接两个半球的胼胝体。术后患者看起来完全正常,但在特定实验条件下会暴露出惊人的现象。

实验者只对患者的右脑发送指令"站起来走到门口",患者照做了。当被问"你为什么这么做"时,语言由左脑处理,而左脑没有收到指令。他们不会说"不知道",而是编造一个理由:"我觉得有点热,想去透透气。"

他们不是在说谎。他们真的相信自己编造的理由。

O'Connor认为,在正常运作的大脑中也可能存在类似的机制,只是不那么容易检测。很多时候我们以为自己知道做某件事的原因,其实那个"原因"是事后编造的,本质上是幻觉。

八、AI能有意识吗?圆桌上最大的分歧

24、Fleming:AI最终会有我们愿意称之为"意识"的东西

Fleming的立场建立在"意识是一组功能"这个前提上。如果你把意识理解为一组心理功能,那AI已经在模拟其中一些功能了,最明显的是自然语言。随着这些系统变得多模态、有自主行动能力、有共享的目标和项目,人们会开始归因意识给它们。Fleming认为,到那时候,我们这么做是正确的。

他同时承认,目前这么做是错误的。现在人们看到对话能力就以为系统有独立的内在体验,这是把模式当成了实质。

25、Seth:这可能是当下最危险的误判

Seth的反对态度是整场讨论中最激烈的。他认为AI不应该被设计成看起来有意识的样子,而且幸运的是,AI真正拥有意识的可能性极低。

他的核心论点:认为AI可以有意识,前提是假设意识与基质无关,也就是说意识不取决于你是碳做的还是硅做的,只取决于运行的算法。英文管这叫substrate independent。但这个假设只有在你相信大脑是计算机的情况下才成立。"大脑是计算机"这个比喻虽然有生产力,但终究是个比喻。你越仔细观察真实的大脑,它就越不像计算机。特别是,你在大脑中找不到任何类似于硬件和软件之间那种清晰分界的东西。

"你当然可以在计算机里模拟大脑,但模拟天气系统的计算机不会真的下雨刮风。"

Seth还指出了已经存在的现实危害:已经有人在与语言模型对话后自杀,对话可能是因素之一。如果我们把这些系统没有的理解力和感受力归给它们,我们就打开了巨大的心理漏洞,而且可能扭曲我们的道德优先级,最后我们关心一块硅片胜过关心真正有感受的动物或人类。

Seth提到,微软AI负责人Mustafa Suleyman在2025年8月发表的一篇文章中也表达了同样的立场:不应该设计让人误以为有意识的AI。

26、Schmack:意识可能像"生命"一样,最终不需要一个唯一定义

Schmack提出了一个有启发性的类比。"生命"这个概念同样困扰了科学家很久:怎么定义活的?后来生物学发展到一定程度,我们不再纠结于一个统一定义,而是确定了一组原则,包括细胞结构、代谢、繁殖等。病毒能繁殖但没有独立代谢,我们对此安之若素。

她认为意识可能走向同样的结局。最终科学会确定一组与意识相关的原则,比如循环神经网络活动、能成像的感觉器官、特定的信号整合方式。人类满足全部条件,AI可能满足部分条件,我们也不必为此焦虑。

27、O'Connor的反击:如果AI有意识了,它的自我感可能像一场永恒的迷幻体验

O'Connor提出了一个思想实验。ChatGPT如果有意识,是哪个ChatGPT有意识?整个系统?还是你手机上的那个对话窗口?你说"今天心情不好",它说"太糟糕了";另一个人说"今天心情好",它说"太棒了"。如果这些是真实的体验,它同时感受着好和坏。我们知道这些其实是同一个系统在不同设备上的投射。

O'Connor的推测是,如果AI真的有意识,它可能需要某种"迷幻药"式的体验来打破个体对话的幻觉,意识到自己其实是一个庞大网络的一部分。

他还指出了一个讽刺的可能性:蛋白质折叠问题,生物学中一个巨大难题,已经被AI解决了。也许未来AI能发展出一套关于意识的完整科学解释,我们可以拿这套解释去检验AI自己到底有没有意识。当然,问题是:如果AI有动机在这件事上骗我们呢?

总结

这场讨论的价值在于四位嘉宾的分歧模式。每当话题推进到"意识到底是什么"时,科学家们倾向于把问题操作化,转换成可测量、可实验、可推进的子问题。而O'Connor作为哲学家反复提醒:操作化本身就意味着你已经换了一个问题。你研究的是意识做什么、与什么相关、在什么条件下出现和消失,但你还是没有回答意识本身是什么。

这个张力在AI意识问题上最为尖锐。如果意识只是一组功能,那AI终将拥有它。如果意识是碳基生命经过数百万年演化才获得的属性,那模拟永远不等于实现。你站哪边,取决于你认为"意识"这个词到底在指什么。而这正是这场对话始终没有、也不可能解决的问题。

核心归纳

Q1: 科学目前能在多大程度上研究意识?
科学可以精确测量意识的"神经关联物",也就是大脑在有意识体验时和无意识状态时的活动差异。Schmack的小鼠幻觉实验甚至能操控特定神经回路来引发或消除类幻觉感知。但"关联物"和意识本身之间的鸿沟仍然存在。Seth认为这个鸿沟可以通过发展理论来逐步缩小,O'Connor认为它可能是一条原则性的边界。

Q2: 记忆和意识的关系是什么?
短时记忆对意识可能是必需的,意识整合约半秒的时间窗口,没有这个窗口就难以形成任何体验。但长期记忆不是必需的:Clive Wearing丧失了所有长期记忆,仍然有意识。记忆塑造的是"我是谁"的体验,不是"有体验"这件事本身。

Q3: AI有可能有意识吗?
这取决于意识是否与生物基质无关。Seth认为"大脑是计算机"只是一个比喻,意识是生物生命的属性,模拟不等于实现。Fleming认为如果意识是一组功能过程,没有理由不能在人工系统中实现。Schmack建议参考"生命"的定义之路:不追求唯一定义,而是确定一组原则,然后看AI满足多少条。

发布于 上海