麻省理工科技评论
25-07-14 20:35 微博认证:《麻省理工科技评论》杂志官方微博

【牛顿力学在AI中失效?Transformer模型能完美预测却不懂物理,哈佛团队揭示模型缺失物理常识】

一个在 1,000 万个#太阳系# 相关数据上训练的 Transformer 模型能够精准地预测#行星轨道# ,却对引力定律一窍不通。那么,预测模型和世界模型有什么区别?是否存在简单直接的指标可以检验这种差异?来自美国哈佛大学和美国麻省理工学院的研究人员认为,或许最具影响力的世界模型,最初正是从一个预测模型起步的。

为了研究上述 #AI# 问题,他们追溯到了 400 年前的科学成果。在英国科学家艾萨克・牛顿(Isaac Newton)于 17 世纪提出万有引力定律之前,德国天文学家约翰内斯・开普勒(Johannes Kepler)的行星轨道预测模型早已存在,开普勒的预测促成了牛顿万有引力定律的发现。

而本次研究团队认为,基础模型的前景依赖于这样一个核心假设:学习预测序列能够揭示更深层次的规律,甚至乐观地说其能构建出一个世界模型。虽然从某种意义上说这个想法是新颖的,但从另一种意义上说它又是古老的。

如前所述,数百年前开普勒发现了一些几何规律,借助这些规律能够精准预测夜空中行星未来的位置。牛顿后来在这一进展的基础上发展并创立了牛顿力学,这些基本定律不仅能够预测行星的运动,还能解释宇宙中的各种物理特性。这条“从预测序列到理解其背后深层机制”的路径,并非物理学所独有。

戳链接查看详情:http://t.cn/A6k6LbfB