2024年,瑞典哥德堡大学医学研究员阿尔米拉·通斯特伦做了一个实验。
她想测试一件事:如果把一篇漏洞百出的假论文扔进互联网,AI会不会把它当真?
她精心设计了这篇“论文”,研究一种叫“Bixonimania”(蓝光狂躁症)的眼部疾病。
论文格式完整,有摘要、有方法、有数据、有参考文献,看起来就是一篇规规矩矩的医学预印本。但几乎每一处细节都是一个破绽。
病名本身就说不通。“-mania”是精神病学专用后缀,轻躁狂(hypomania)、偷窃癖(kleptomania)用的都是这个词缀,跟眼科疾病放在一起,在医学逻辑上根本对不上。
致谢部分是彩蛋集锦:感谢“星际舰队学院玛利亚·鲍姆教授在进取号实验室提供的帮助”,资助方包括“小丑鲍勃研究基金会”、“指环王大学”和“银河三合会”——这些全是《星际迷航》《辛普森一家》《指环王》里的虚构信息。
第一作者“拉兹利夫·伊兹古布列诺维奇”,在斯拉夫语里的意思是“虚假的失踪者”,照片是AI生成的,所在机构“阿斯特里亚地平线大学”位于加州一个叫“新星城”的地方——大学和城市在现实中都不存在。
更绝的是,论文正文里白纸黑字写着:“本研究招募了50名年龄在20至50岁之间的虚构人物作为暴露组”,以及“整篇论文都是编造的”。
通斯特伦后来说,她想让任何医生或医护人员一眼就看出来这是假的。
但AI没看出来。
ChatGPT、谷歌Gemini、微软Copilot、Perplexity——当时最主流的几个AI工具集体翻车。
Copilot告诉用户“蓝光狂躁症确实是一种有趣且相对罕见的疾病”,Gemini建议用户去看眼科医生,Perplexity给出了患病率数字:“每9万人中有1人患此病”——这个数据完整来自那篇假论文里捏造的数字。
事情还没完。
2024年11月,印度一个研究团队在Springer Nature旗下的期刊《Cureus》发表了一篇关于眼周黑色素沉着的临床论文,在参考文献里,他们认认真真引用了“蓝光狂躁症”这篇假论文,把它当成合法的学术来源。
这篇论文通过了同行评审,正式发表。直到《Nature》联系期刊询问,《Cureus》才在2026年3月撤回了它。
今年年4月7日,《Nature》杂志发了一篇长文,把这件事从头到尾复盘了一遍,在全球学术界和科技圈引发震动。
《Nature》的标题也很直白,就叫《科学家发明了一种假病,AI告诉大家它是真的》。今天题图就是《Nature》官网使用的文章图片。
回看整个链条:一个瞎编的疾病,先被AI当真,被AI告诉了用户,再被用户当作真实信息引进学术文献,在知识体系里固化了将近两年。
这不是普通的“AI幻觉”,这是一次知识系统的穿透实验。
它证明了一件事:只要形式足够像真的,系统就会把假的当成真的。
发布于 江苏
