【大模型内部也有功能分区，MIT团队揭示其“大脑”结构】

#AI# 的“大脑”究竟长什么样？

近期，来自美国#麻省理工学院# 的研究团队通过稀疏自编码器（SAE，Sparse Autoencoder）在#大语言模型# 的激活空间中发现了大量可解释的向量点，这些向量点代表了模型所掌握的各种概念。

研究人员对这些概念空间（向量点）的结构进行了深入分析，从“原子”“大脑”“星系”三个不同的空间尺度揭示了其独特的几何特征。

这项研究的重要意义在于，它在试图搞清楚大模型是如何在内部组织知识的。研究成果以预印本的形式发表。

就像理解人类大脑结构帮助我们理解人类思维一样，分析模型内部的概念结构有助于我们理解人工智能是如何工作的。这些发现不仅有理论价值，也可能帮助我们设计出更好的语言模型。

戳链接查看详情：http://t.cn/A6naZyxu