AI+商业#AI##AI商业洞察#
【AI“黑客”诞生，顶尖模型已能自动挖掘零日漏洞】

近日，一项加州大学伯克利分校的最新研究揭示，前沿人工智能模型正迅速崛起为强大的漏洞猎手，其能力远不止编写代码。研究团队对OpenAI、Anthropic、谷歌等机构的AI模型和智能体进行了测试，结果令人瞩目：在188个开源代码库中，这些AI模型共发现了17个漏洞，其中15个是前所未见的“零日”漏洞。

这项研究采用了名为CyberGym的新基准评估系统，专门用于评估系统安全性。伯克利分校的宋晓冬教授指出，随着AI编程与推理能力的不断提升，网络安全格局正在被重新定义。一个显著的例子是一家名为Xbow的初创公司开发的AI工具，它不仅在HackerOne漏洞赏金榜上登顶，还成功吸引了7500万美元的融资。

这些AI工具通过分析代码、运行测试并设计漏洞利用方式，成功生成了数百个“概念验证”级别的攻击样本。其中，Anthropic开发的Claude Code在漏洞奖励平台上发现的漏洞价值高达逾1万美元，而其API成本仅花费了数百美元。

尽管AI已经能够自动识别部分严重漏洞，但其整体命中率仍然较低，仅为2%左右。专家警告称，AI的发展或许将加速零日漏洞攻击潮的到来，同时也凸显了建立AI网络安全能力观测机制的紧迫性。例如，新设立的AI Frontiers Observatory旨在监测和评估AI在网络安全领域的应用和发展，以应对日益复杂的网络安全挑战。@智谱AI @百川智能 @商汤科技SenseTime @Questyle旷世之声 @百度云战略 @阿里云 @腾讯云 @腾讯研究院 @Kimi智能助手 @清华大学人工智能国际治理研究院