昨天用Opus 4.8遇到了几乎一模一样的问题,不只是记忆出错,而是编造上下文,回复里突然出现了一句“让你妈别动你的电脑”,我说我上下文到底哪儿提到“妈”这个字儿了???然后就这一个反问,它的“思考”过程把一个4小时的额度给干没了,而且思考过程里还写着“用户激烈否认自己说过的话”,所以我要去查查,3个小时后我再问,它回复说,上下文查了,前后几个会话都查了,确实没有。我说能保证以后不出这种错吗,它说,可以写到系统提示词约束,但提示词约束的级别有限,无法绝对保证……
发布于 河南
昨天用Opus 4.8遇到了几乎一模一样的问题,不只是记忆出错,而是编造上下文,回复里突然出现了一句“让你妈别动你的电脑”,我说我上下文到底哪儿提到“妈”这个字儿了???然后就这一个反问,它的“思考”过程把一个4小时的额度给干没了,而且思考过程里还写着“用户激烈否认自己说过的话”,所以我要去查查,3个小时后我再问,它回复说,上下文查了,前后几个会话都查了,确实没有。我说能保证以后不出这种错吗,它说,可以写到系统提示词约束,但提示词约束的级别有限,无法绝对保证……