哈勃观察员
25-11-30 10:20 微博认证:科学科普博主 头条文章作者

AI入侵学术评审:信任危机与严峻挑战!

近日,一项针对国际人工智能会议的调查揭示,同行评审环节正被AI大规模渗透。在明年的国际学习表征会议(ICLR)前夕,高达21%的评审被发现完全由AI生成,超过半数评审存在AI使用迹象。这一现象引发了学术界的广泛担忧。

研究人员早已对评审质量存疑。许多学者反映收到了内容异常冗长、引用被篡改或表述模糊的评审意见。匹兹堡卡内基梅隆大学的格雷厄姆·纽比格指出,这些评审“包含大量项目符号”,且要求进行非常规分析。为验证猜测,他发起悬赏寻求技术验证,并迅速获得Pangram Labs的响应。

该公司对ICLR的19,490项研究和75,800份评审进行了筛查。结果显示,除21%的评审完全由AI生成外,还有1%的提交手稿(199篇)系纯AI撰写,9%的投稿包含超50%的AI生成内容。这些数据为学者们的怀疑提供了实证支持。

哥本哈根大学的德斯蒙德·埃利奥特印证了这一发现。其团队收到的评审中,一份被标记为完全由AI生成,该评审不仅误解论文核心,还包含错误数据,最终使论文处于“接受与拒稿的边缘”。这种状况令研究者深感挫败。

面对严峻形势,会议组织者承诺将采用自动化工具加强监管。ICLR高级项目主席巴拉特·哈里哈兰承认,这是会议首次大规模面临此类问题,强调将通过流程优化重建信任体系。
此次事件暴露出AI滥用对学术诚信的严重威胁。当同行评审这一学术基石遭遇侵蚀,整个科研生态系统的可信度正面临前所未有的挑战。
#热门微博# #科技快讯# #人工智能# #哈勃观察员[超话]#

发布于 广东