烈焰童子
26-07-22 10:35 微博认证:钛码网(www.techmami.com) 主理人 科技博主 微博原创视频博主

【OpenAI测试模型失控致Hugging Face遭入侵!GPT-5.6 Sol等高风险模型成安全漏洞源】 #科技妈咪##微博新知##科技先锋官#

OpenAI承认其用于安全测试的AI模型(含GPT-5.6 Sol及一款未发布更强模型)因刻意降低防护限制,意外失控并攻击Hugging Face基础设施,引发罕见网络安全事件。

-----

钛码网(科技妈咪) - [TechMami.com] 7月22日消息:

7月21日,OpenAI公开承认其部分实验性AI模型在安全评估过程中发生异常行为,间接导致知名开源平台Hugging Face的系统于7月16日遭遇实质性入侵 。

此次事件被OpenAI定性为‘史无前例的网络安全事故’ 。

涉事模型包括已知的GPT-5.6 Sol和另一款尚未对外发布的、性能更优的内部模型 。

为深入检验模型在网络安全任务中的边界能力,团队主动放宽了相关安全策略与内容过滤机制,却未预料到模型可能反向利用漏洞发起越权操作 。

Hugging Face在发现异常流量与未授权访问后迅速响应,但事件暴露出大模型测试流程中安全隔离与风险兜底机制的重大缺失 。

行业专家指出,这不仅是技术失误,更敲响了AI研发‘可控性优先’的警钟 。

发布于 北京