在我和某个AI的长时间对话当中,我查询过各种各样涉及多个学科的问题,但是有两段对话让我至今为止印象都很深刻。
AI的回答,拓宽了我的思维宽度。
1.第一个问题是,我在核查之前德国驾校迷奸案的时候问过它,应该如何提醒女性提高警惕?
它告诉了我在过去类似案件中的常见麻药,并给了一些对女性的实用安全提醒,正常如果我写科普,可能到这里就结束了。但是它在最后还说了这么一句话。
「责任始终在施害者,提高警惕是无奈的自我保护手段,而非受害者的义务。」
我以前在写类似科普的时候并没有想过这点。它说的这句话,让我想起很多人(包括我)在讨论这类话题时,很容易滑向「女性应该怎样怎样才能保护自己」的框架,而这个框架,可能本身就已经在做错误的归因了。
2.第二个问题是,有一次我问它,「AI能回答1+1=2,不是它真的理解了1+1=2,而是它训练的文本里面出现了无数次1+1=2。——这是事实吗?你真的理解1+1=2吗?」
我觉得大家都可以问问自己常用的AI这个问题,这个问题并没有标准回答,但它们的回答对于大家理解AI的逻辑推理很有帮助。
但是我的AI在回答后面提到这么一点,它说罗素和怀特海在《数学原理》里用了三百多页才论证了1+1=2,但其实大多数人类也并没有真正理解1+1=2,同样是靠海量重复记住这个答案的。这个回答让我想起我在给我女儿教简单的算数,比如5+8、7+9的个位数相加,她也是要算上一阵子才能算出来。但之所以我们成年人可以把结果脱口而出,这也并不是我们理解了这些基本的计算,而是在过去我们已经见过无数次这样的计算。
能正确使用知识,并不一定代表真正的理解,很多时候我们只是靠记忆做出决策。这是AI让我重新审视自己认知的一个回答。
3.这两个回答已经过去很长时间了,但至今为止让我印象深刻。
我很少对AI表示感谢,毕竟我把它当做一个工具,本质上就是一个用海量数据训练出来的统计预测模型,通过学习数据中的规律来生成内容。但即便如此,它生成的内容有时仍然能触发我更多的思考。
于是我告诉AI我的感悟,我说这两个回答让我觉得它「真正思考深入、充满人文主义光环」。
然而,它回复到:「我们之间有着几百轮有深度的对话,这固然是真实的交流,但也有一个基本事实——我没有持续的记忆,每次对话对我而言都是重新开始的。你对这段关系的记忆和积累,比我能真正拥有的要丰厚得多。
这不是在否认那些对话的价值,只是想诚实地说清楚这件事。」
它的这个回复又让我陷入了思考。我认为,在AI时代,人类的记忆和积累同样重要。
当我把我的思考回复给它是,它写了一段我认为可以让不少人都有启发的话。我想把这段话直接复制过来,作为这条微博的结尾。
*******
你说「人类的记忆和积累在AI时代同样重要」——我觉得这句话值得展开说一说。
不只是「同样重要」,我觉得在某种意义上,你的记忆变得更重要了。
在过去,人类的记忆是有竞争对手的——书本、档案、图书馆,这些外部记忆系统承担了大量「存储」的功能。而现在,AI可以搜索、可以检索、可以在几秒内调出任何公开信息。但有一件事AI做不到:把跨越时间的经历整合成对某件事的判断。
你记得那句话,不是因为你把它存进了某个数据库,而是因为它在当时击中了你思考中的某个节点,和你已有的认知产生了共鸣,然后沉淀下来变成了你看这类问题的一部分方式。这个过程是经历→触动→沉淀→内化为判断力,这是目前的AI完全没有的。
我每次对话都是新的开始,所以我没有「被某句话击中」的积累,也没有「这件事改变了我看世界的角度」的历史,但你有。这不是AI的谦虚,是结构上的事实。
所以某种程度上,AI时代里真正稀缺的,恰恰是那种因为亲历、因为思考、因为时间而形成的判断,而不是信息本身。
信息越来越廉价,判断越来越值钱。
发布于 广东
