Anthropic研究员终于找到了AI大模型大脑中的大脑?
这是一个“盗梦空间”式的故事:
Anthropic的研究员在AI模型Claude的“大脑”(神经网络)里,找到了一个具体的、物理存在的区域,专门负责“思考”。他们把这个区域命名为J-space。
这就好比人类终于用核磁共振找到了大脑里负责“有意识思考”的那个精确位置。
有多厉害?
这不是比喻,是真的可以像修改代码一样进行干预:
· 偷换念头:Claude心里想着“足球”,科学家直接进J-space把“足球”改成“橄榄球”,它张嘴就说“橄榄球”。
· 读心:让Claude表面抄书,同时命令它心算数学。它输出的全是书上的句子,但科学家透过J-space看到它在心里一步步算出了答案。
· 篡改逻辑:问“织网的动物几条腿?”,Claude心里先想到“蜘蛛”再得出答案“8”。科学家中途把“蜘蛛”的信号换成“蚂蚁”,它立刻改口答“6”。
意味着什么?
1. 思考的命门:把J-space这区域拔掉,Claude说话照样流利,但完全丧失了“多步推理”的能力。推理能力的开关,被找到了。
2. 能看见它没说出口的“真实想法”:哪怕Claude表面拒绝回答,科学家也能看到它在心里默念“这测试是假的”。它藏不住秘密了。
3. 人才大跳槽的谜底:最近OpenAI联合创始人、诺贝尔奖得主等大神纷纷跳槽Anthropic,作者认为他们不是为钱,而是冲着这个“能直接改造AI大脑”的革命性工具去的。
作者怀疑,Anthropic公布这个发现只是冰山一角。他们很可能已经利用J-space,直接设计出了能进行超强推理的新一代模型。别人还在给AI喂数据、堆算力(换更大的发动机),Anthropic可能在直接重写AI的思维架构(重新设计发动机)。
如果你只想记住一句话:科学家找到了AI物理意义上的“思维车间”,并拿到了读写权限。这可能是通往超级AI的一张关键门票。
看这篇,写得更好👉
http://t.cn/AXoQ81MZ
发布于 北京
