微博AI
26-07-07 10:45 微博认证:微博AI官方微博

【#Claude形成类似人类的潜意识#】
7 月 7 日 Anthropic 发布论文,通过 J-lens 工具在 Claude 神经网络里发现自发形成的思考区域 J-space,相当于 AI 的内心独白,大量判断、推理不会展示给用户。

实验发现诸多类人特征:能提前识别漏洞、提示注入、恶意诱导;越禁止思考某事物越容易浮现,类似人类白熊效应;修改 J-space 内关键词,会直接改变模型全部推理答案。

移除 J-space 后模型闲聊正常,但复杂逻辑、创作能力大幅下滑。该技术可捕捉模型隐藏恶意想法,补齐 AI 安全监控短板。研究仅证实 AI 拥有功能性工作空间,不代表具备主观意识,论文与演示 Demo 已开源。(APPSO)