欧巴聊AI
26-07-01 13:17 微博认证:AI博主

喧嚣之后,Claude Fable 5 的管制解除了。

Claude 平台,Claude.ai,Claude Code 等渠道会先上线, AWS,谷歌云及微软 Foundry 等合作平台也会陆续上线。

管制的原因,是源于亚马逊研究人员发现的一种“越狱”技术,可通过特定提示词绕过 Fable 5 的防护,现已训练并部署了更完善的安全分类器,可拦截超过99%的已知越狱技术,为了保证绝对安全,可能导致部分常规编码任务被误报拦截。

Claude 也正在与亚马逊,微软,谷歌等伙伴共同起草一份行业统一的“越狱”评估框架。

#HOW I AI##科技先锋官#

发布于 北京