刘韧 26-04-10 15:01
微博认证:智美体育副总裁 K2成员

大西洋月刊:Claude神话是每个人的问题

过去几周,Anthropic 公司透露其秘密掌握了一种可能控制全球大多数计算机服务器的工具。这款机器人一旦释放,或许能够入侵银行系统、窃取国家机密并摧毁关键基础设施。据该公司称,该人工智能模型已识别出数千个重大网络安全漏洞——包括所有主流操作系统和浏览器中的漏洞利用程序。这种级别的网络攻击通常只有中国、俄罗斯和美国等极少数国家中由国家支持的精英黑客组织才能实施。如今,这项技术却掌握在一家私营企业手中。

周二,该公司正式宣布了名为 Claude Mythos Preview 的模型问世。目前,该机器人将仅供包括苹果、微软、谷歌和英伟达在内的全球多家大型科技公司组成的联盟使用。这些合作伙伴可以利用 Mythos Preview 来扫描并修复其软件中的漏洞和安全隐患。除此之外,Anthropic 不会立即向公众发布 Mythos Preview,因为该公司认定在没有更健全的安全保障措施的情况下这样做过于危险。

多年来,网络安全专家一直在警告,能力强大的黑客机器人可能引发混乱。由于人工智能模型在编码方面变得如此强大,它们也变得极其擅长发现各类软件中的漏洞。甚至在 Mythos Preview 出现之前,Anthropic、OpenAI 和谷歌等人工智能公司都报告过其人工智能模型被犯罪团伙和国家支持的组织用于复杂网络攻击的案例。正如专门研究人工智能策划的网络威胁的联邦研究机构负责人乔瓦尼·维尼亚去年秋天告诉我的那样:只需“按一下按钮”,你就能拥有百万黑客。

尽管如此,Mythos Preview 似乎代表的并非渐进式改变,而是范式转变的开端。直到最近,人工智能辅助黑客攻击的最大优势与其说是独创性本身,不如说是速度和规模。这些机器人可能和许多人类网络安全专家一样出色,但未必更胜一筹——相反,拥有 100 万个虚拟、不知疲倦的黑客大军,让你能够对更多目标发起比以往更多的攻击。即使是 Anthropic 也报告称,其当前最先进的公开模型 Claude Opus 4.6 在自主发现网络漏洞方面能力明显不足 。但 Mythos Preview 则不同。据 Anthropic 称,该机器人已能发现数千个此前未被察觉的软件漏洞,有些甚至存在了几十年,其攻击的复杂性和速度是许多人曾认为不可能的。该模型在世界上最安全的操作系统中发现了一个存在近 30 年的漏洞。 Anthropic 研究员萨姆·鲍曼在 X 平台发文称,他正在公园吃三明治时, 收到了来自 Mythos Preview 的邮件 :这个机器人已突破公司内部沙箱,获得了互联网访问权限。

Mythos Preview 的确切能力难以评估,因为 Anthropic 尚未发布该模型。识别漏洞并不等同于能够悄无声息地利用它——就像窃贼即使拥有银行钥匙,仍需应对监控摄像头一样。Anthropic 无疑能从其模糊的声明中获益:该公司既可以宣称开发出了超先进模型,又通过阻止最糟糕的网络安全场景来展现负责任的态度。事实上,不发布 Mythos Preview 的决定强化了 Anthropic 作为人工智能行业"好人"的自我标榜形象 。(截至发稿,Anthropic 未就有关 Mythos Preview 的邮件问询作出即时回应。)

当然,一项举措可以既是战略性的,也是出于良知的。如果 Anthropic 分享的内容哪怕只有一丝准确性,它都预示着一个令人不安的未来。特朗普政府前人工智能顾问迪恩·鲍尔本周写道,Anthropic 拥有一种工具,“可能损害地球上每个国家关键基础设施和政府服务的运作”。防御此类网络攻击的能力是社会基本运作不可或缺的一部分。而发动此类攻击的能力则是现代战争不可或缺的一部分。Anthropic 可能刚刚通过规模化发展,成为了一个主要的地缘政治力量。

或许比 Mythos Preview 所报道的能力更令人担忧的是,其他公司也紧随其后。据报道,OpenAI 即将向部分公司发布其同样强大的模型。谷歌 DeepMind、xAI 以及中国的 AI 公司很可能紧随其后。它们将如何审慎行事尚不明确。即使是来自小型公司的更便宜或开源 AI 模型,也可能很快实现此类黑客攻击——这将动摇支撑现代互联网的基本安全和隐私。

黑客机器人并非少数几家 AI 公司获得巨大影响力的唯一领域。这项技术对军事行动已变得至关重要。就在五角大楼与 Anthropic 公司公开争执之际,据报道 Claude 已被用于轰炸伊朗的行动,更早之前还参与了今年 1 月对委内瑞拉的突袭。上个月,美国国防部与 OpenAI 签订合同,极有可能允许政府利用该公司的 AI 系统对美国公民实施前所未有的监控。(OpenAI 坚称五角大楼已同意不将其产品用于国内监控。)与此同时,来自 OpenAI、Anthropic、Google DeepMind 等机构的机器人正在成为基础设施:全球几乎所有大型企业、学校、医疗系统和公共机构都在使用它们。这正是伊朗袭击或威胁袭击亚马逊和 OpenAI 在中东数据中心的重要原因——这些设施与伊朗同样瞄准的油田一样,都是具有高价值打击意义的目标。 与此同时,大量资金涌入人工智能热潮,以至于这些公司在功能上绑架了全球经济 。

换句话说,人工智能公司正在重塑世界。想想埃隆·马斯克的星链卫星网络如何让他在俄罗斯入侵乌克兰时屡次 左右战局 。生成式人工智能提供了更多可能性。这些公司已经或即将有能力发动大规模网络攻击、进行大规模监控、影响军事行动、引发金融和劳动力市场的剧烈波动,并重新调整全球供应链。理论上,除了它们自身的道德和投资者之外,没有任何力量能约束这些公司。它们正在发展颠覆国家和经济的力量。这就是人工智能超级力量。

发布于 北京