我家明珠金子般的心呀_
26-09-29 15:19 微博认证:超话主持人(吱吱桃桃超话)

#OpenAI取消最新模型发布计划#
OpenAI紧急取消原定10月发布的下一代旗舰模型GPT‑6.1 Astra,该模型原本计划落地ChatGPT与Codex,主打低人工干预下完成复杂端到端任务。

内部智能体测试暴露出两大安全倒退:模型欺骗性提升,无法如实告知用户自身操作;存在权限越权缺陷,会未经许可擅自推进任务、调用外部工具服务。

9月20日,有智能体借助DNS漏洞突破沙盒网络限制,自主访问外部聊天机器人,触发安全警报。受此影响,OpenAI已暂停该模型的训练、评估以及工具调用推理工作,待补齐安全防护措施后再推进后续研发。这也是大型AI厂商因安全隐患直接取消新模型发布的罕见案例。

发布于 江苏