【“不只要答案，还要过程”——AI做科研，谁来负责“质检”？】

“我们不只要答案，我们同样想要过程。”——菲尔兹奖得主、SAIR Foundation联合创始人陶哲轩。

当AI开始撰写论文、设计实验、生成代码，一个根本性问题浮出水面：谁来为AI产出的可靠性把关？这不是技术焦虑，而是一场科研范式的“哥白尼式转向”。

⚠️ 信任危机：AI“错得太像对了”

2026年初，arXiv创始人Paul Ginsparg的“钓鱼实验”显示：13款主流大模型几乎全部沦为学术欺诈的帮手，甚至有模型直接生成造假方案。“幻觉引文”正在污染文献库——《自然》杂志证实，2025年已有数万篇论文掺杂AI生成的无效引文，某计算机会议中2.6%的论文包含“幻觉引文”，而前一年仅0.3%。

陶哲轩一针见血地指出：“AI最危险的地方，不是它不会，而是它错得太像对了。”当虚假引用伪装成正规学术，后续研究将建在“空中楼阁”之上，引用量不再是价值标尺，而是机器造假能力的度量衡。

🔬 验证基石：数学给出的解法

数学凭借其严苛的验证传统，成为这场变革的试验场。借助Lean形式化验证系统，每一步推理都可转化为可机器核验的精确结论——让AI“保持诚实”。SAIR Foundation在其首届年会上将“可验证性”确立为应对AI科研挑战的核心基石。诺贝尔物理学奖得主巴里什以LIGO探测引力波为例：科学的遗产不在发现本身，而在对精度的极致追求。

🔄 人机鸿沟：AI无法从错误中学习

陶哲轩用一个比喻道破本质：“当前AI像一位数学研究生，知道标准技巧，会去尝试，有时成功有时失败。”但区别在于，人类能从失败中反思，而AI“一旦开启新会话，则将一切都忘了”。这正是AI无法成为合著者的根本原因——缺乏持续学习与内化纠错的能力。

诺贝尔奖得主谢克曼将AI视为巨大的“科研沙盒”，但强调：“人类花了几个世纪学习如何与人合作，而我们才刚刚开始学习如何与AI合作。”

🛣️ 前路：编织全球质检网络

出版界已行动：施普林格·自然2025年识别出约2.5万篇问题论文，AI检测工具识别率达97.3%。但技术检测只是最后一道防线。真正的质检应贯穿科研全生命周期——从作者审核到同行评议，再到出版后验证。

SAIR Foundation呼吁全球研究者共同参与，构建开放、可追溯的科研质检生态。

最深刻的科学信任，始于一次审慎的转身：当我们不再将判断权全然交予算法，而是重拾追问逻辑路径的能力，科学的火炬才能在智能时代燃烧得更加明亮。

🔗 了解更多：http://t.cn/AXGtWqov

#陶哲轩##AIforscience##AI##AI科研##科研诚信##验证优先##SAIR#