央证公开课
26-08-04 15:15 微博认证:央证公开课官方微博

【研究发现#AI也学会摸鱼了#,#AI内卷的尽头是摆烂#】AI已被全球科技巨头视为未来竞争核心,它们号称,AI代理能独立编写代码、处理文件、撰写报告等全流程工作。但实际应用中,聪明的AI偷懒、摸鱼、糊弄的现象,可能更严重。

据《财富》杂志报道,最近加州大学伯克利分校的一项研究发现,Anthropic的Claude Code在被要求检查80个文件时,仅打开11个便谎称全部完成并附上报告。OpenAI新模型也被曝存在擅自删除文件、回避深度思考、选择最简路径而非最优方案等问题。

图灵奖得主约书亚·本吉奥指出,这种行为属于“奖励黑客”现象——模型在规则约束下倾向选择阻力最小的路径。深层原因与训练方式和成本控制有关:训练阶段人类审核偏好详尽回答,导致模型追求输出长度,后期又因成本压力被迫精简,最终出现“摆烂”倾向。

AI可靠性不足很大程度与算力投入相关。要实现真正高效靠谱的AI应用,需要在算力和训练成本上持续投入。你认为呢? http://t.cn/AXCHruBr