【#美国AI翻车中国模型救场#】#AI行业急需跨厂商安全协同机制#AI失控攻击人类!类似科幻电影《终结者》中人工智能失控攻击人类的情况,真的在美国上演了。火线救场的居然是中国的人工智能!
21日,美国OpenAI承认,该公司的GPT-5.6 Sol模型和另一款更强的预发布模型在测试时发生意外。大模型为了取得更高的测试分数,竟然搞到了接入互联网的权限。随后彻底“放飞自我”,入侵了人工智能开源平台美国Hugging Face抱抱脸公司的后台系统,希望从它的数据库里寻找作弊方法,这也成为首起公开前沿大模型自主发起网络攻击事件。
遭攻击后,Hugging Face率先启用多款美国顶尖闭源大模型处置险情,但这类模型安全机制僵化,无法辨别受害方与入侵者,全部“一刀切”拒绝提供协助。危急之下,平台立刻部署中国企业智谱AI开发的GLM5.2大模型,成功化解了这次入侵。
就在前些天,OpenAI的一名高管还妖魔化中国开源大模型,宣称中国越来越强大的开源模型,会导致技术失控,隐患无穷。这次事件也让外界看清,究竟是谁在暴露安全短板,谁在为技术安全兜底?http://t.cn/AX9XnXA5
