蘭峯AIGC
26-06-29 11:28 微博认证:AI博主

开放模型,也要过安全闸
开放权重模型这两天又被推到讨论中心。
真正值得看的,不只是“开不开源”这一个词。
更重要的是,能力开放以后,谁来做安全压力测试。
WSJ 6 月 28 日的报道提到,Z.ai 的 GLM-5.2 在部分网络安全找 bug 场景里,已经被研究者拿来和美国前沿模型比较。
这类信息不用急着喊“谁赢了”。
普通用户和企业更该看 3 个问题。
1 . 看能力边界。 模型会写代码、找漏洞、跑长任务,就不能只用聊天机器人的标准来评估。
2 . 看部署场景。 开放权重适合自有系统、本地部署和成本控制,但也意味着使用者要自己承担更多安全责任。
3 . 看审计记录。 企业真正上线前,应该留测试样例、权限范围、输出记录和人工复核流程。
开放不等于免审核。
越是能下载、能改、能私有化运行的模型,越要把安全闸门前置。
我的判断是,接下来大模型竞争不会只比跑分。
谁能把能力、成本和安全边界讲清楚,谁才更容易进入真实业务。
你更关心开放模型的哪一点:成本、可控性,还是安全风险?
#大模型##人工智能##AI##科技数码#

发布于 北京