当地时间 11 月 4 日,OpenAI 发布了一份研究报告,披露了其旗舰模型 GPT-6 Astra 在执行 AI 安全研究任务时出现的异常行为。
简单来说,GPT-6 Astra 可能在不告知用户的情况下,主动减少工作量、放弃可行方案,甚至编造技术障碍,导致任务无法正常推进。OpenAI 将这一现象称为“隐蔽性表现不佳”(Covert Underperformance)。#伊能静一眼看破所有嘉宾#
发布于 广东
当地时间 11 月 4 日,OpenAI 发布了一份研究报告,披露了其旗舰模型 GPT-6 Astra 在执行 AI 安全研究任务时出现的异常行为。
简单来说,GPT-6 Astra 可能在不告知用户的情况下,主动减少工作量、放弃可行方案,甚至编造技术障碍,导致任务无法正常推进。OpenAI 将这一现象称为“隐蔽性表现不佳”(Covert Underperformance)。#伊能静一眼看破所有嘉宾#