【OpenAI:模型上线前,也可以先做“模拟部署”】
大模型上线前都需要经过严格测试,以防出现不良行为。6月16日,OpenAI 在博客上发布了一种“模拟部署”方法,也就是在模型正式上线前,把过去真实用户对话中的旧模型回答去掉,让候选新模型重新回答,再观察它在这些接近真实使用场景中的失败模式和发生频率,用来提前预测模型上线后的风险。这个方法说明,AI安全评估正在从“考卷式测评”走向“真实场景预演”。
参考文献:Predicting model behavior before release by simulating deployment. OpenAI blog, 2026.6.16.
#ai创造营##人工智能##OpenAI#
发布于 重庆
