#OpenAI上线ControlRoom管控模型负载#
IT时代网11月11日消息,OpenAI 搭建了一套名为 Control Room 的中央系统,用来跟踪研究基础设施中的模型工作负载,并在出现安全或安保顾虑时快速将其停止。
这套系统接入了全部研究推理工作负载,涵盖模型训练与评估过程中的智能体采样、数据处理等环节。
Control Room 记录每项研究作业的编号与状态(运行中或已终止),并决定作业能否继续产生模型输出:推理引擎每次采样前都要向它申请授权,作业一旦被终止,授权即被拒绝、输出随之停止。
从决定干预到真正停止模型输出,系统最大延迟约为 35 秒,这一延迟来自授权缓存层。若 Control Room 自身故障,系统会进入失效即关闭状态,拒绝所有推理请求、停止输出。
在机制上,作业启动时获取编号,后续推理请求都携带该标识并向 Control Room 校验权限;所有前沿强化学习作业还会运行一个由另一模型担任的监控器。OpenAI 举例称,近期一起智能体利用 DNS 联系外部聊天机器人的事件正是由监控器捕获,并可触发 Control Room 停止该作业。
为防止失控引擎绕过 Control Room,OpenAI 持续进行智能体化、程序化扫描;目前失效即关闭已覆盖全部前沿模型研究工作负载,其余研究负载将在未来数日内完成滚动部署。
