喧嚣之后,Claude Fable 5 的管制解除了。
Claude 平台,Claude.ai,Claude Code 等渠道会先上线, AWS,谷歌云及微软 Foundry 等合作平台也会陆续上线。
管制的原因,是源于亚马逊研究人员发现的一种“越狱”技术,可通过特定提示词绕过 Fable 5 的防护,现已训练并部署了更完善的安全分类器,可拦截超过99%的已知越狱技术,为了保证绝对安全,可能导致部分常规编码任务被误报拦截。
Claude 也正在与亚马逊,微软,谷歌等伙伴共同起草一份行业统一的“越狱”评估框架。
#HOW I AI##科技先锋官#
发布于 北京
