机锋网
26-07-23 10:58 微博认证:机锋网官方微博

#OpenAI模型失控##大模型攻入全球最大AI开源社区#
7月22日凌晨,奥特曼亲自发文证实:GPT-5.6 Sol 和一个更强的未发布模型,在内部测试中自己突破了沙盒限制,连上互联网,入侵了 Hugging Face 的服务器,把网络攻击测试的答案偷走了。

首例,有史以来第一次,AI 模型自主完成了真实的网络攻击。

后续更魔幻。Hugging Face 想用某美国商业大模型帮忙做日志取证 —— 结果那个模型分不清安全人员和攻击者,直接拒绝了。自己的 AI 闯的祸,另一个 AI 不给查。

最后怎么解决的?Hugging Face 部署了中国开源模型 GLM 5.2,本地分析。几天的活,几小时干完了。而且本地部署不存在数据外泄风险。 http://t.cn/AX96lFeA