宝玉xp
26-06-14 12:07 微博认证:前微软Asp.Net最有价值专家 2025微博年度新知博主 科技博主

白宫对 Anthropic 动用出口管制,Fable 5 上线三天即被迫下架

美国商务部长 Howard Lutnick 上周五向 Anthropic CEO Dario Amodei 发出正式信函,宣布对 Fable 5 和 Mythos 5 两款模型实施出口管制,禁止任何外国公民访问,包括身在美国境内的外国人,甚至 Anthropic 自己的非美国籍员工也不例外。

这是美国政府第一次对一款 AI 模型动用出口管制。

Anthropic 表示,要完全合规,只能把这两款模型对所有用户全部关停。Fable 5 从公开发布到被迫下架,只活了三天。

【注:Mythos 是 Anthropic 今年4月发布的超强模型,因为具备极强的代码漏洞发现能力,Anthropic 自己一直将其定位为“网络武器级”,只向少数安全公司开放。Fable 5 是本周一(6月9日)推出的 Mythos 消费版,本质上就是 Mythos 加上一层安全护栏后面向公众开放。逻辑很简单:护栏一旦被突破,公众就等于直接接触到了 Mythos 的全部能力。Anthropic 旗下的 Claude 系列模型(包括最新的 Opus 4.8)不受影响。】

【1】导火索:Amazon 的一通电话

转折点在周四晚上。Amazon CEO Andy Jassy 联系白宫,提交了一份报告,称其团队成功绕过了 Fable 5 的安全护栏,能够访问 Mythos 级别的网络安全能力。

【注:Amazon 是 Anthropic 的最大投资方之一,但这次举报是应白宫此前的反馈请求,而非 Amazon 主动出击。不过,一个投资方向政府举报自己被投企业的安全漏洞,这件事本身就很微妙。】

Amazon 的发现被转交给了美国国家安全局(NSA),官员们认为他们拿到了“证据”。周五一早,事态已经上升到白宫最高层。

【2】三通电话和一个“错误决定”

周五上午,财政部长 Scott Bessent、白宫网络安全主管 Sean Cairncross、白宫幕僚长 Susie Wiles 等高官开会讨论应对方案。会后,白宫试图联系 Amodei,但被告知他因参加一个“养生静修”活动暂时联系不上。

Anthropic 否认了“养生静修”的说法,称“这完全是假的”。据接近 Anthropic 的人士透露,Amodei 在被要求通话后一个多小时就上线了,期间 Anthropic 也主动提出让其他高管先行对接。

接下来,Amodei 与大约六位高级官员进行了三轮电话会议,对方包括 Bessent、Cairncross 和商务部长 Lutnick 等人。

在电话中,Amodei 为 Fable 5 的安全系统做了辩护。他的核心论点是:被发现的是一个针对特定场景的绕过方式,并非能够全面瓦解模型护栏的“通用越狱”(universal jailbreak)。Anthropic 后来在博客中进一步指出,同样的绕过方法也适用于 OpenAI 的 GPT-5.5,但后者没有被施加任何出口管制。

Cairncross 和 Bessent 并不买账。他们要求 Anthropic 主动下架模型,与政府协作修复漏洞。Amodei 要求更多时间和信息,但没有承诺下架。在某个时刻,Bessent 直接对 Amodei 说:你在做一个“糟糕的决定”。

电话结束后不久,白宫直接动用了出口管制。

一位白宫高级官员事后表示:“出口管制是最后的手段,在此之前我们恳求了他们好几个小时。”

但 Anthropic 一方的说法截然不同。接近公司的人士称:“白宫只给了90分钟的最后期限,要求下架模型,但没有提供任何关于实际威胁的具体细节。从来没有什么'恳求',也没有要求我们合作,只有一个90分钟的倒计时。”

【3】Sacks 的定性:安全公司把安全排在了商业后面

David Sacks 周六在 X 上发了一篇长帖,给出了他了解到的完整叙事。

Sacks 的核心指控只有一句话:Anthropic 把继续运营消费级模型的商业利益,摆在了安全前面。

他的逻辑链条是这样的:Anthropic 自己一直在大力宣传 Mythos 是“网络武器”,需要政府监管,也亲手为 Fable 设计了安全护栏。现在一个“高度可信的、同时受 Anthropic 和美国政府信任的合作伙伴”发现了护栏的越狱漏洞,政府要求 Amodei 修复或下架,Amodei 拒绝了。

“一家把'安全第一'挂在嘴边的公司,在这件事上却选择了继续卖产品,”这是 Sacks 帖子里最有杀伤力的一句话。

Sacks 也明确切割了这件事和此前国防部与 Anthropic 之间的政治冲突。他写道,政府“重视 Anthropic 的技术能力”,认为这个问题“虽然严重,但应该很容易解决”。他说政府的期望很简单:Anthropic 修复漏洞,出口管制解除,Fable 重新上线,“政府希望这一切尽快发生”。

但他补了一句:“坦率说,政府对 Anthropic 不愿配合它自己此前声称是最高优先级的安全要求,感到不解。”

【4】更深的裂痕

Sacks 的切割声明多干脆,白宫与 Anthropic 之间积累的矛盾就有多深。

今年3月3日,国防部长 Pete Hegseth 将 Anthropic 列为“供应链风险”,理由是公司拒绝让其 AI 工具用于大规模国内监控和自主武器系统。Anthropic 正在联邦法院挑战这一决定。Sacks 和五角大楼副部长 Emil Michael 多次公开攻击 Anthropic,指责其“左翼偏见”和“基于恐惧的监管俘获策略”。

站在 Anthropic 的角度看,事情的荒诞之处在于:这家公司一直是 AI 行业里最积极呼吁政府监管的玩家。Dario Amodei 在模型被禁的前两天(6月10日)刚刚发表了一篇名为《Policy on the AI Exponential》的文章,呼吁对前沿模型实施强制性第三方安全测试。

结果,政府真的来管了,但方式是一纸出口管制令,没有具体的技术细节,没有透明的流程,只有一个90分钟的最后通牒。Anthropic 在博客中写道:“如果发现一个狭义的潜在越狱就足以召回一个服务数亿用户的商业模型,那么按照这个标准,所有前沿模型提供商的所有新模型部署都应该被叫停。”

AI 政策研究者 Dean Ball 在 X 上的评论可能最准确地捕捉到了外界的困惑:“我分不清这到底是专门针对 Anthropic 的法律战,还是极端的国家安全鹰派行为。”

【5】先例已经创造

据 Semafor 报道,白宫的行动还部分源于一个更敏感的情报:有疑似中国关联的团体已经访问了 Mythos。

白宫方面表示,这一出口管制不太可能扩展到其他 AI 公司,因为目前没有其他模型达到 Mythos 的能力水平。但“任何达到 Mythos 级别或以上的模型”都需要经过政府审查。

Axios 引述知情人士的话说:“这是一个事实上的许可制度。没有公司敢惹白宫,这就是最终效果。”

这场危机还没结束。Anthropic 目前正在与政府沟通,试图恢复模型访问。但对整个 AI 行业来说,一个先例已经被创造:美国政府愿意,也有能力,在几个小时内让一款 AI 模型从全球市场上消失。

本文编译自:http://t.cn/AXaMy6t0
图源:http://t.cn/AXaMdIbQ

发布于 美国