蚁工厂
26-08-20 09:02 微博认证:科技博主

技术博文:什么是“推理”?
地址:lucumr.pocoo.org/2026/8/19/what-is-reasoning/
这篇是Pi的开发者Armin Ronacher 写的一篇文章,题目里说的推理是指大模型的 reasoning trace,也就是模型在输出最终答案前生成的中间思考文本。Armin Ronacher 想消除一种神秘化理解:模型的“推理轨迹”本质上仍是模型生成的文本,只是被训练成先写入一个隐藏的“草稿区”,再把正式答案写入另一个通道。

“几周前,有人分享了一篇论文,展示了如何从闭源权重模型中提取推理轨迹。再加上网上关于如何诱骗模型泄漏这些轨迹的讨论,这出于好奇促使我进一步研究此事。Twitter 上似乎充斥着关于其工作原理的片面说法和混乱认识,因此,希望这篇文章能帮助一些人理解究竟发生了什么。”

发布于 山东