麻省理工科技评论
25-05-27 18:28 微博认证:《麻省理工科技评论》杂志官方微博

【科学家验证强柏拉图表征假说,证明所有语言模型都会收敛于相同“通用意义几何”】

2024 年,美国#麻省理工学院# 团队曾提出“柏拉图表征假说”(Platonic Representation Hypothesis),该假说推测现代神经网络的表征空间正在趋于收敛。即不同的 #AI模型# 正在趋向于一个统一的现实表征。

就像在柏拉图洞穴寓言中囚犯们看到的影子是现实的投影一样,正在不断迭代的 AI 模型也开始理解投影背后更高维度的现实。当时,相关论文还曾获得前 #OpenAI# 首席科学家伊利亚·苏茨克维(Ilya Sutskever)的点赞。

2025 年 5 月,在上述基础之上,美国康奈尔大学博士生张睿杰和所在研究团队提出“强柏拉图表征假说”(Strong Platonic Representation ypothesis),即潜在的通用表征是可以被学习并加以利用的,也能在无需任何编码器或成对数据的情况下实现表征空间之间的转换。

研究中,他们还提出一种名为 vec2vec 的新方法,这是一种能将文本嵌入从一个向量空间转换到另一个向量空间的方法。其表示这也是第一种无需任何配对数据、编码器或预定义匹配集即可实现上述能力的方法。

戳链接查看详情:http://t.cn/A6grfi7h