#how i ai#

Gary Marcus 发文：教皇对 AI 的理解，可能比辛顿更到位

5 月 31 日，AI 批评者、纽约大学名誉教授 Gary Marcus 在 Substack 专栏发布了一篇文章，“教皇对 AI 的理解似乎比杰弗里·辛顿更到位”。

辛顿可是“深度学习之父”，人工智能领域的大佬，居然被这样批评？

这篇文章的核心，围绕一个正在被反复踩坑的认知误区展开。

Gary Marcus 在文中指出，杰弗里·辛顿（ Geoffrey Hinton ）在 2026 年 5 月发布的一段采访中，犯了一个根本性的类别错误（ category error ）。

辛顿说：大语言模型（ LLM ）输出了人类会说的话，所以它们在某种意义具备类人属性。

Marcus 认为，这个推论完全不成立——问题出在只看输出，不问生成机制。

再看看教皇说了啥

在辛顿采访发布前几天，教皇良十四世在 X 上发布了一条推文。Marcus 认为，这条推文精准地点出了上述误区，甚至比他自己的分析写得更简洁到位。

教皇的核心表述是：真正的理解来自真实体验，而非文本近似。

有学者指出，这一观点和他们在《自然》期刊（ 2026 年 2 月）上发表的研究结论完全一致：LLM “可能模仿甚至模拟，但它们并不理解”。

Marcus 在文中给出了他的解释，主要有两个认知陷阱：

第一，Eliza 效应。

这是人工智能领域一个经典的心理现象——人们倾向于把看似智能的文本输出，误认为背后有真实的认知或情感。这个名字来自 1960 年代 MIT 开发的聊天机器人 ELIZA ，当时就有用户坚信它真的“理解”了自己说的话。

第二个，空想性错视（ pareidolia ）。

就像人们会把随机的云层图案看成一张人脸，读者也会把 LLM 的统计近似输出，当成“它在思考”的证据。

Gary Marcus 在文末提到，他后续会专门撰文分析“ LLM 内部所谓的情绪状态”为什么不能作为意识证据。

在讨论“ AI 究竟有没有意识之前”，我们还是得先搞清楚“输出相似”和“生成机制相似”是两回事。