月初那会儿，我在微博顺嘴提了句看了WhynotTV采访翁家翌的视频播客节目，但又有点不太知道怎么分享到微博，因为他们讲的话都是学术用语和技术用语偏多，大多数内容可能大家也不感兴趣，理解起来也有困难。

但我今早刷牙时重新听，有段还挺适合拿出来分享的。
我也会加上大段自己的理解，方便大家看懂。

是播主说：“你觉得我们的命运是可以被预测的。这个世界是个确定论，所以我们生活在一个确定性的马尔科夫过程里面。那往深了说的话，你觉得人是没有自由意志的？我现在脑子里面在想什么，我下一个单词说什么，全都是一开始宇宙大爆炸那一刻就定好了。但这是一个相当悲观的世界观。好像我就变成了一个在被模拟的原子。为什么你会这么想呢？”

翁说：“是的，这个世界是一个巨大的确定论。有些我个人经历就是不太方便说，但这确实是事实。所有东西都是可以被预测的，所以理论上它是可以用AI解决的。但如果你能拿到一个能够预测未来的机器，那么它对个人而言其实是一个灾难，这会导致所有的价值体系的崩塌。”

播主又总结了一遍，说：“是的。就如果有这样的AI model它做到了预测未来，可能对人类社会来说最好的选择是毁掉这样的AI model，让它永远不要出来。”

翁家翌又重重的肯定了一次。

其实看到这，我还挺懂翁在表达什么的，他讲的理论就是拉普拉斯恶魔的思想嘛。
18世纪法国数学家拉普拉斯提出过，如果有一个智能体，知道宇宙中每一个粒子此刻的位置和速度，它就能推算出过去和未来的一切。整个宇宙，不过是一台巨大的机械钟。既然世界是确定的，信息足够的 AI 在原则上就可以预测任何事，这个推论逻辑上是自洽的。

他认为这会导致我们大家价值体系的崩塌，因为人类所有的意义感，都建立在不确定性之上，比如努力是否值得、选择是否重要、爱情是否真实……如果结果都是注定的，那这些问题就失去了意义。

我偶尔也会思考，人类的意义从何而来。

努力有意义，是因为我不知道结果，我的投入可能改变它。爱情有意义，因为对方选择了我，而他本可以不选。道德有意义，因为我本可以作恶，但我选择了善。生命有重量，因为它会结束，而我不知道何时。而这些意义，全部建立在不确定性这个地基上。一旦未来可以被精确预测，人也自然活着没意思了。
毕竟努力不努力结果都一样，那为什么努力？你爱我，但那是注定的，算爱吗？我选择了善，但我别无选择，这算美德吗？
更可怕的是如果预测本身会改变行为。AI告诉你明天会出车祸，你就会待在家里。但待在家里预测就失效了。为了让预测成立，要么你不能知道预测结果，要么知道了也无法改变。无论哪种，人的主体性都被彻底架空，这听起来还是挺疯狂的。

所以翁说的灾难，我的理解不是技术意义上的危险，而是人之为人的根基被摧毁。

也许自由意志在形而上学意义上是幻觉，但它在功能意义上是必需的。
人类文明的运转，依赖于我们相信自己的选择是真实的。法律要惩罚罪犯，前提是他本可以不犯罪。教育要培养学生，前提是努力真的有用。关系要建立承诺，前提是承诺是可以被信守或背叛的。

也许这些都是虚幻的，之后的路线都是被定好的，但我们还是要这样做。

因为有些真相，人类没有能力承受。不是因为我们软弱，而是因为我们是在意义中生存的动物，而不是在真相中生存的机器。

而那台能预测一切的机器，最好永远不要出现。
不是因为它错了，而是因为它说对了之后，我们将无处可去。​​​​​​​​​​​​​​​​