知未科技
26-06-14 20:08 微博认证:知未科技官方微博

#Claude新模型被封禁全过程#
据澎湃新闻,为了遵守美国政府的要求,Anthropic已全面停止对旗下最新、最强大模型的访问。
当地时间6月12日,Anthropic发布声明称,公司在当天下午5点21分收到了一封来自美国政府的紧急信函。美国政府援引国家安全部门的指示,发布了一项出口管制指令,要求Anthropic立即切断所有外国国民——无论是在美国境内还是境外,甚至包括该公司自身的非美籍员工——对旗下最先进AI模型Claude Fable 5和Mythos 5的访问权限。
因此,Anthropic被迫在全球范围内,对所有用户全面停用了这两款刚刚发布不到72小时的行业旗舰级模型。Anthropic表示,美国政府的决定建立在“严重的误解”之上。
有媒体报道,导致此次美国政府“连夜叫停”的导火索,是因为有科技公司宣称,其已经实现了对Mythos模型的“越狱”。
Anthropic在声明中写道,美国政府所指的所谓的越狱行为,不过是“要求模型读取某段特定的代码库并修复其中的软件缺陷”:“迄今为止,政府向我们提供的唯一口头证据,仅仅是一个潜在的、非通用的、狭隘的越狱方法。”
公司强调,“非通用越狱”与能够全面绕过模型安全底线的“通用越狱”有着天壤之别,且这种轻微的脆弱性在整个AI行业都是普遍存在的。
Anthropic进一步警告称:“我们不认为发现一个狭隘的潜在越狱漏洞,就应该成为召回一款已经向数亿人部署的商业模型的理由。如果将这种严苛的标准推行到整个行业,那么所有前沿AI厂商的新模型部署都将彻底陷入停滞。”