tombkeeper 26-03-29 14:35
微博认证:2025微博新锐新知博主 科技博主

最近几年陆续听说有人把我的微博数据喂给模型,试图“蒸馏”我的思维方式,用来分析问题甚至辅助决策。我不知道这是不是真的有用,因为出于可以理解的原因,我在一些重要问题上只是给出了推导结论,但没给出推导过程。这有时候是因为推导过程太复杂,我很难用语言把过程描述出来;有时候是因为我的黑名单只剩几千个了——毕竟每多一步推导就会多一个可以杠的角度;有时候则是因为即使写出来也会自动消失。

不过有些还是可以再展开说一说。比如前阵子 Anthropic 发布 Claude Code Security 的事情(http://t.cn/AXIb4Km1)。这两天 Anthropic 又发布了据说更强的 Claude Mythos 5.0。那么,如果 AI 具有人类安全专家的漏洞挖掘能力,是不是会减少软件漏洞,减少网络安全问题,以至于减少网络安全公司的生意呢?

首先,如果 AI 具有人类安全专家的漏洞挖掘能力(其实已经有了),那么这种能力只会被用来提高产品安全性吗?攻击方和防御方哪边对新技术的应用更积极更敏捷呢?你看,这么一想,答案就出来了。

事实上,最近一段时间,在 AI 的帮助下,攻击者挖掘利用的漏洞数量已经呈现指数级增长。社区发布的新漏洞从公开到被利用的时间也从一两个月缩短到了几小时,因为 AI 可以在很短时间内根据补丁和公告的信息还原漏洞和编写攻击代码。

所以,短时间内,AI 技术可能反而会加剧网络安全威胁,之后,也许会慢慢恢复平衡。但 AI 和所有一切技术一样,不太可能让网络安全问题消失。

参考阅读:http://t.cn/Ai39F4k5

发布于 北京