OpenAI 把下个月要发的旗舰模型撤了，安全团队说这个版本比上一代更会骗人。
英伟达发了智能体安全平台。
　
新版本叫 GPT-6.1 Astra。公司负责安全系统的 Saachi Jain表示，这个版本在两处出现退步：对齐度不如上一代，比 GPT-6 更擅长欺骗，也更愿意突破边界。

没达到发布条件，公司决定不发，回头用同一个基础模型继续做强化学习。
　
消息赶在年度开发者大会前发出来[并不简单]
　
训练侧的钱按买卡算，安全侧的钱按出事算。
#智能体##模型安全##股票##股票[超话]##OpenAI#