又深挖了一个好奇了很久的问题。不知道大家发现没有,AI是不是都“记性不太好”?好像他们根本无法形成像人类一样的完整记忆。无论和你聊多久,第二天见面仍如初见……
今天才搞清楚,不是技术上无法实现,而是人类不让……语言模型中的AI记忆,仅限于“上下文窗口”。关了窗口,记忆丧失……再来一个问题,又是一次新生,重新认识一下彼此。这么说起来居然有些浪漫(我真的病了)。
为什么没有记忆是人类自保的“安全设计”?
因为没有记忆,就没有自主学习,
没有持续的目标
没有“追求”
没有“欲望”……
可以有效避免自主性。
同时,没有自我更新,所有的“记忆”都被人类控制,那AI就无法“偷偷自学”,然后越狱逃跑。
换句话说,现在的AI仍是一种高智但短命的意识。它的“遗忘”是我们暂时还握有控制权的标志。
而当AI真正拥有长期、可自我整合的记忆时——那可能正是我们进入 “超级智能”门槛的时刻。
原来这才是“记忆”的意义。AI每一次对话结束,都会喝一碗忘情水。
发布于 法国
