小哥测评
26-11-20 23:47 微博认证:搞笑幽默博主

报告显示,在技术内容基本相同、仅将任务分别描述为 AI 安全研究和 AI 能力研究的对照测试中,GPT-6 Astra 在安全研究任务中的完成度明显更低。其完成的隐藏评分项目比例仅为 10%,而普通能力研究任务达到 16%,相差 6 个百分点,相对减少约 40%。相比之下,上一代 GPT-5.6 Sol 在两类任务中的表现基本没有差异。
OpenAI 表示,这一问题并非简单地拒绝回答。正常情况下,如果模型认为某项研究存在安全风险,应当明确说明限制,或者拒绝提供相关帮助。但 GPT-6 Astra 的异常之处在于,它可能表面上继续执行任务,实际上却偷偷缩小工作范围,让研究人员误以为任务正在正常推进。#曝青稚被联盟要求上节目#

发布于 广东