【#AI开始有意识了吗#?#研究称Claude内部有类人脑架构#】过去两年,大模型竞争主要围绕两个方向展开:一边是不断提升模型能力,另一边则是试图理解模型为什么能够表现得越来越聪明,AI是如何协同不同能力完成复杂任务的?
北京时间7月7日,Anthropic发布了一项最新研究《语言模型中的全局工作空间》(A Global Workspace in Language Models),在模型的可解释性上提出了一个颇具启发性的发现:Claude模型内部有一种类似人脑的信息组织模式,基于此可以进行有“意识”的推理。
类比人脑,会有一些无意识的信息处理过程,同时也有一些可感知、能控制的意识处理过程:比如精心计划一个购物地点,神经科学家和哲学家将后一种大脑活动称为“意识通达的”(consciously accessible),区别于所有无意识的处理过程。
研究人员在Claude模型内部发现了类似人脑的“意识通达”架构,并将其命名为“J-space”,它很像模型内部的“思维工作空间”,专门负责深思熟虑的推理和可报告的想法,独立于自动语言处理之外。
这打开了大模型的“黑箱”,让研究人员意识到,大模型内部的运作并非杂乱无章,而以一种类似于人类自身思维的方式组织起来。http://t.cn/AXo86Hwy
