Anthropic 最近搞了个大动作,联合了亚马逊云、苹果、谷歌、微软、英伟达、Linux 基金会等十二家科技巨头,发起了一个叫 “Glasswing 计划” 的项目,用 AI 来保护最关键的软件系统。
事情的起因是 Anthropic 训练了一个尚未公开发布的前沿模型 Mythos。这个模型本来是奔着写代码去的,但团队很快发现,它在网络安全方面的表现也极其突出。具体有多强呢?在识别软件漏洞这件事上,它基本已经达到了专业安全研究员的水平。更关键的是,它不仅能找到单个漏洞,还能把多个看起来不太严重的漏洞串成一条攻击链,实现非常复杂的入侵效果。这种能力以前只有极少数顶尖黑客才具备。
团队拿这个模型扫描了大量开源代码,优先从操作系统入手,因为这是支撑整个互联网的底层基础。结果相当惊人,它在 OpenBSD 里挖出了一个藏了27年的漏洞,只需要发送几段数据就能让服务器直接崩溃。在 Linux 上也发现了多个提权漏洞,一个没有任何权限的普通用户运行某个程序就能变成管理员。参与项目的安全研究员说,过去几周发现的漏洞比他这辈子找到的都多。所有发现的漏洞都已经通知了相关维护者,补丁也已部署完毕。
目前 Anthropic 选择不公开发布这个模型。因为,这种能力如果落到攻击者手里,后果不堪设想。所以他们的策略是把模型优先交给那些维护关键代码的组织,让防御方先跑起来,争取时间窗口。
同时 Anthropic 和政府也进行了沟通,表示愿意合作评估和防范这类模型带来的风险。这说明他们意识到了一个现实,AI 在网络安全领域的能力提升是指数级的,更强的模型会不断从各家机构涌现,光靠一家公司根本挡不住,必须提前建立跨行业的协作机制。
说到底,软件已经渗透到我们生活的每个角落,金融交易、基础设施、个人数据全都基于代码。网络安全本质上就是社会安全。用 AI 帮防御者先发现问题、先修好问题,已经是迫在眉睫的当务之急。
#AI技术[超话]##AI安全##Anthropic##GlassWing# http://t.cn/AXMGsPsM
发布于 上海
