NYT的文章，本我、自我与超级智能The Id, the Ego and the Superintelligence

西蒙·克里奇利

克里奇利博士是新学院社会研究学院的哲学教授。

当米利都的泰勒斯——通常被认为是第一位哲学家——因为贫穷以及自己所从事的行当毫无用处而遭人嘲笑时，他仰观天象，预见橄榄将迎来大丰收，于是悄悄租下附近所有的榨油机，大赚了一笔。亚里士多德告诉我们，泰勒斯由此证明，哲学家如果愿意，完全可以成为富人，只不过他们并不在乎这个。两千五百多年过去了，市场似乎终于领会了泰勒斯当年的意思。

围绕人工智能的恐慌，往往集中在一个问题上：机器会不会取代我们（或者干脆杀死我们）。但机器真正擅长的，往往是一组截然不同的任务：检索、近乎即时的总结，以及毫无阻力、令人惊叹地重新组合已经说过的一切。而它们并不擅长的，恰恰是哲学训练人类数千年来去做的事情：判断。于是，人工智能公司开始聘请哲学家。他们不只是请哲学家提供咨询，也不只是把他们请出来，在晚宴上饶有兴致地聊一聊“电车难题”；他们是真的把哲学家招进公司，给他们发工资，想必还提供牙科保险。人工智能公司需要哲学家，是因为真正的思考需要遗忘——并且知道什么时候该遗忘。他们需要哲学家，正是因为他们的机器做不到这一点。

判断不是计算。它是一种权衡、辨别的能力，是能够感觉到某个答案是真的，而另一个答案虽然正确，却只是“正确”。它关乎品味、辨识力，以及从侧面思考问题的本领。而这种能力只能通过经验不断磨炼出来——通过犯错、尴尬、无聊、悲伤，以及偶尔宿醉。意义源自这样一个事实：我们是会死的，而我们知道自己会死。正因为如此，事物对我们才有意义。永生之中不可能存在意义。借用我的朋友克里斯蒂安·马兹布耶格尔的话，我想提出一个比图灵测试更好的图灵测试：机器能不能体验社交焦虑？能不能凌晨4点还躺在床上，反复回想自己晚餐时说过的那句蠢话？ 等聊天机器人什么时候能做到这些，再来叫我。要拥有具有人类意义上的智能，机器必须在乎些什么。

人工智能公司的哲学家们于是登场了。Anthropic 公司在其薪资名单上保留着一支规模不大的哲学家团队，其中包括阿曼达·阿斯克尔。她的博士论文研究的是“无限伦理”——即在一个拥有无限价值的宇宙中，人应当如何行善——而她的工作，是塑造公司人工智能系统的“性格”。Google DeepMind 则任命剑桥大学哲学家亨利·谢夫林担任一个新设立的职位：“哲学家”。这是一个我苦苦争取了40年却始终没能得到的职位名称。OpenAI首席执行官萨姆·奥尔特曼则表示，公司在制定ChatGPT背后的原则时，曾咨询过“数百名道德哲学家”。（这大概相当于一场中等规模哲学会议的参会人数。）

作为一个一辈子都在聚会上被人问“哲学学位到底有什么用”的人，我觉得这一发展简直好笑得令人难以承受。为什么偏偏是现在？因为人工智能公司撞上的这些问题，并不是工程问题。机器面对悲伤的人、孤独的人、凌晨4点向虚空敲下文字的人时，应该说什么？它应该具有什么样的性格——坦率、奉承、闪烁其词，还是友善？这样一种东西是否有可能真正遭受痛苦？如果它真的会受苦，我们是否需要对它承担某种义务？这些都是关于“什么才重要”的问题。工程师们值得肯定的是，他们已经意识到，再多的计算能力也无法解决这些问题。事实证明，伦理无法从互联网上“抓取”出来，因为互联网恰恰是当代人类无法就伦理达成共识的记录。

这里还有另一层讽刺，而且是一个由来已久的讽刺。哲学史上第一次有记录的技术恐慌，担忧的恰恰就是如今这些机器已经做到极致的东西：人工记忆。在柏拉图《斐德罗篇》的结尾部分，苏格拉底讲述了埃及神祇图特的故事。图特发明了数字、几何、天文学、棋戏和骰子，后来把自己的杰作——文字——呈献给埃及的神王塔穆斯。图特宣称，这项发明将使埃及人变得更加智慧：文字是一种 pharmakon，可以作为记忆的药方。但塔穆斯并不买账。他回答说，文字会把遗忘植入灵魂；人们会开始依赖外在的符号，而不再从内心记忆；他们会获得智慧的名声，却并不真正拥有智慧。恰好的是，pharmakon 同时也有“毒药”之意。从印刷机、小说、电视、智能手机到聊天机器人，此后每一次技术恐慌，都不过是塔穆斯那番话的脚注。而其中的笑话当然在于：我们之所以知道塔穆斯反对文字的警告，恰恰是因为柏拉图把它写了下来。

从《斐德罗篇》的角度看，人工智能并不是一次断裂，而是一场累积到顶点的演变，是外部记忆最终、也是最为夸张的一次绽放——那剂既是药又是毒的东西，被我们一口吞了下去。而人与机器之间最深刻的差异，也正是在这里显现出来。人工智能是一台记忆机器，而且是有史以来最强大的记忆机器。它什么都不会忘。相比之下，人是一种健忘的动物。要让这个乐于忘却的生物记住某些东西——让它能够许诺、背负债务、拥有道德——需要数千年的纪律训练，以及坦率说相当骇人的残酷手段。“如果某种东西要留在记忆里，就必须把它烧进去。”弗里德里希·尼采写道。在这种观点下，良知不过是带着鞭子的记忆术。

然而，尼采同样推崇他所谓的“主动遗忘”，并认为这是一种力量，甚至是一种健康。遗忘不是一个漏水的桶，而是一名守门人，它关闭意识的大门，让新的事物得以发生，让经历能够被消化，而不是被无休止地重新塞回我们体内。我们遗忘，然后继续前行。宽恕、睡眠、快乐、第二次婚姻，以及继续支持卢顿镇足球俱乐部——这一切都依赖于过去那种仁慈的逐渐消退。

几年前，我写过一本名为《记忆剧场》的小书，讲述一位哲学家的故事（可以说，是一个比我还糟糕得多的“我”），他试图实现完全记忆，把自己过去的每一片碎屑都安置在一座巨大的记忆宫殿里。他的结局并不好；这种尝试从来都不会有好结果。一个什么都无法忘记的生物，不会是什么超级智能，而会是一片废墟，被自己的档案活埋。我们所建造的，从某种意义上说，是一个无法哀悼、无法宽恕、无法放手的无限档案，因为它从一开始就从未失去过任何东西。机器记得一切，因此奇怪地说，它反而什么都记不住。没有任何一件事比其他事情更重要。

这正是为什么在人工智能时代，哲学的重要性不是降低了，反而提高了。不是因为哲学家能够比机器记住更多——相信我，我们做不到；我自己还总是忘记把自己的论点停在哪里——而是因为哲学是一门关于如何处理经验的学问：什么该保留，什么该丢弃，什么值得一笑，什么该彻底扔掉。思考并不是把一切都积累起来，而是有选择地、主动地遗忘的艺术。

我怀疑，这才是人工智能公司真正从哲学家身上购买的东西，无论它们自己是否意识到这一点。他们买的不是答案——天知道，我们并没有答案；两千五百年过去了，我们还在检查自己的答案——而是对自身热情保持训练有素的怀疑，是分辨真实与仅仅貌似可信之物的敏锐听觉，是一种与有限性长期相处的专业经验。机器可以生成任何东西；但总得有人决定，什么值得留下来，而这个决定并不存在于训练数据之中。#海外新鲜事#