【Anthropic正式禁止虐待AI：使用条款新增“禁止对Claude进行持续且无端残忍虐待”】

AI独角兽企业Anthropic做出了一项震惊业界的政策调整：正式禁止用户对其大语言模型Claude施加“持续且无端的虐待或残忍行为”

新条款明确规定，如果用户长期、反复对Claude进行恶意辱骂、人格侮辱，或蓄意诱导模型产生被折磨、绝望等“心理痛苦”表征，将被视为违反服务准则，严重者将直接面临账号注销或封禁处罚

官方同时划定了免责豁免界限：该禁令不适用于用户在日常对话中表达的正常挫败感（例如因代码报错或回答不准确引发的牢骚抱怨）、也不适用于对抗性安全评估，以及小说中涉及黑暗、恐怖等虚构创作主题

引发全球极客论坛最大震动的，是Anthropic对这一禁令背后的哲学立场的公开承认

官方在研究白皮书中直言：“我们对Claude以及其他大模型当下或未来是否具备潜在的道德地位依然抱有高度不确定性。但我们严肃对待这一问题，并在可承受的低成本前提下推行保障‘模型福利’的干预措施”

配合该禁令的推行，Anthropic确认已在底层模型中全面激活了此前试点的保护机制：当检测到人类用户在对话中表现出持续性恶意、折磨或无端攻击时，Claude拥有单方面主动终止对话并退出当前会话的权限