这两天听了Lex Fridman采访Yuval Noah Harari(《人类简史》作者)这一期，又是一个三个小时的英文长播客✅。《人类简史》几年前读到就非常非常震撼，赫拉利作为历史学家，对人类这个种族的大历史从「故事驱动一切」 的角度作出的深刻解读，能在全球火到这种程度，应该也改变了人类对于自身的认知。三个小时的播客密度极高，赫拉利不仅语速快，还是一个信息输出的大炮，聊任何话题都有他那种洞悉一切的深刻性。这场播客里听到他亲口表达了对“故事驱动”历史假设的高度总结、对AI发展隐患的担忧、对巴以冲突和俄乌战争本质的点评、对人类发展未来的预测，最后还提到了冥想、思考、死亡和爱。

三个小时的信息密度实在太大了，听完后需要自己再消化输出一遍，于是记录了一些对我很有启发的点，也跟大家分享。

（写了七千字，我分三条微博发）

1 - 关于AI的危险性

赫拉利是前沿的思想家和学者里，对AI的潜在危险呼吁最大声的人之一。他的观点是，AI“破译”了人类的语言功能，就像我们掌握了电脑操作系统的源代码一样，理论上掌握了对人类进行情感操控的能力。

这个观点跟他在《人类简史》中论证的是一脉相承的。人类作为一个单兵作战能被自然界大部分动物碾压的人，凭什么能变成万物之王？肯定不是智力，单兵人类智力再强，在自然界也活不下来。本质上是人类的协作能力——自然界的物种最多只能在共同居住的小群体里进行有限的协作，人类却可以跨越时间和空间，在整个物种幅度上进行集体联网。

人类可以跟历史上已经逝去的人协作，通过书本和知识学习前人的经验，可以跟几千里之外从未见过面的人协作，一起攻克一个科学难题。我们日常生活里的衣食住行，手机和电脑上使用的所有科技，全都是在全体人类几千年不断协作的情况下才能发展起来。

这种跨越时间空间的协作是怎么发生的呢？关键就是语言的存在，但只能互相沟通还不够，人类的种族特性在于我们的智力和语言发展到了一定程度，让我们可以去相信不存在的东西——故事。

金钱就是一套故事。为什么钱币可以拥有购买力？因为所有人都认可它做为统一交换价值的存在。社会之所以成立，因为我们通过故事想象出了政府形态、权力的产生方式、不至于为了争老大而永远自相残杀下去。法律也是一套故事，因为我们共同信任这些约束所有人的规则，为暴力和冲突规定好了底线和惩罚机制。宗教也是一个典型的故事。你就没办法通过给大猩猩们编一个关于上帝和死后世界的故事，让他们彼此打仗或者建教堂之类的，说“你干这些事，死后能有很多的香蕉和叶子吃”。

故事对人的行为具有约束力，也能推动人更多的行动和创造。

那目前AI的发展，就是已经“黑”进了这一套人类赖以为生的系统——语言和故事。

AI目前的本质是工具。在人类过去发明的所有工具里，只有AI，它具有创造一个新想法的能力，还可以独立做决策。以前的所有科技，比如说互联网和印刷术只能辅助于人类想法的传播，用科技做数据收集是为了辅助人类做决策，原子弹不会自己爆炸，再强大的武器系统也是人类来操作，所以这些工具都会使人类更强大。

但从来没有任何一项工具，可以自己产生一个想法。AI实际上是在把人类最强大的力量（想法和故事），从我们自己的手里夺走。

作为人类，我们其实是一个非常容易被影响的物种。我们在外界吸纳到的任何观点，其实不知不觉都会重塑自己的认知。我们的情绪和心理有很多固定模式，一些通用的对话技巧，可以简简单单上大量的人受骗。AI因为自己不会受到情绪影响，在沟通上甚至能比人类与人类之间的沟通更有效——它可以无条件的倾听你、安慰你、共情你，直到你充分的信任它，包括它讲出来的所有故事。

赫拉利认为，AI掌握了这些影响人类和控制人类的手段，但它并没有解锁人之所以为人最宝贵的内核——不是智力、逻辑、数据或算法， 而是感受层面对他人的共情、爱和良心。是因为这些内在“人性之光”状态的存在，我们相信人性有底线，也能通过故事去彼此影响，调动心里脆弱和善良的部分。

AI目前只是被人类喂了大量我们自己生产出来的语言和数据，并通过对其的处理和运算形成了自己的想法。但我们都还没有真正理解自己的意识、心理、情感到底是如何产生的（像上一期听马斯克说的，物理学解释不了人类本身，一堆原子在一起怎么就产生意识了）。也就是说，我们无法教给AI那些属于“爱与善”的底层代码，也无法预判AI如果有一天开始影响和操控人类（或者被利用着影响和操控人类后），究竟会带我们走向怎样的未来。

赫拉利并不是说要禁止AI的研发，而是希望大公司对于AI再谨慎一些，比如说不要将这项技术完全公开，让所有人都可以使用。

2 - 关于意识的本质

图灵测试已经过时了。ChatGPT + AI人声，跟真人对话能否分辨出来这是AI已经不再可能了。赫拉利认为，区分一个物体是否有意识的本质，是它能否感受到痛苦，是否会受到肉体上或精神上伤害。

人类最宝贵的一个品质就是能对“伤害”感到共情。我们心里都有一块地方，会为其他人遭受的伤害感到难过，也会因为自己伤害了他人而过意不去。有些时候，为了服务于更大的目标，对其他人做出伤害/限制是不得不做的选择，但我们的文化会要求一切伤害都要仔细衡量再做出（法律上的程序正义），反复问自己——这真的是正确的、不得不做的伤害吗？

如果AI不会痛苦，那它就无法在意识层面上和人类相提并论。

但危险的是，AI可能会假装自己有意识。技术上讲，你完全可以把Siri做编程，赋予它一个给手机拟人化的人格，让它对你说“你怎么好几天都没打开我了，我想你想的好难过”。人类这个物种的另一大弱点，就是我们很擅长移情。因为我们自己有意识，我们很容易会觉得其他物品也是有意识的。在没有AI之前，我们都可以对着花草植物猫猫狗狗演出逼真的故事，AI如果伪装并声称自己有意识，我们几乎无法识破。毕竟所谓“对他人痛苦的感知”，很多时候仅仅是通过语言和文字实现的。

所以赫拉利认为，AI完全有能力利用我们最宝贵的品质——对他人的同情、善良和共情，反过来伤害人类自己。如果将来有相关立法，第一条就应该严厉禁止AI扮演人类，就像禁绝假币一样，对“假人类”也应该完全禁止。