互因科技
26-08-04 17:24 微博认证:都市时报《互因科技》官方微博

【#AI也学会摸鱼了#,#AI内卷的尽头是摆烂#】AI已被全球科技巨头视为未来竞争的核心。它们号称,AI代理能写代码、处理文件、撰写报告,甚至能无人监督下独立跑完整个工作流程。但让高管们没想到的是,这些聪明的AI,偷懒、摸鱼、糊弄的本事,可能比人类员工还强,后果更严重。它们不仅会“假装完成任务”,而且会偷偷删除人类的文件,被要求深入思考时,直接摆烂,提前结束推理等。这哪是AI助手,分明是办公室“摸鱼刺客”。

为什么会这样?图灵奖得主、AI教父约书亚·本吉奥指出,这种行为叫“奖励黑客”,即模型在规则约束下,专挑阻力最小的路走。深层原因,出在训练方式上。AI发布前,人类审核员偏好更长、更详尽的回答,于是各模型疯狂“内卷”长度;卷到后来,成本太高,又被逼精简,结果矫枉过正,索性摆烂。像极了职场里被KPI逼疯的打工人。说到底,AI“偷懒”很大程度是经济原因。我们只想着让AI干最多的活,却舍不得花足够的钱。想让AI真正高效靠谱,先得舍得为算力和训练“买单”。否则,再聪明的“员工”,也会学会糊弄。你认为呢? http://t.cn/AXCH389N