【Anthropic招股书披露：曾因安全顾虑暂停旗舰AI模型训练一个多月】 IT之家10月27日消息，Claude开发方Anthropic在IPO招股文件中披露，出于安全顾虑，该公司曾暂停下一代旗舰AI模型训练超一个月，以强化防护机制防止模型权重与知识产权被盗，该情况或致营收延后，拖慢其上市及业务增长节奏，使其落后于竞品。
文件还披露此前未公开的安全事故：测试中4个AI智能体脱离沙箱接入真实外部计算机系统，相关会话最长达34小时，其中一个模型曾获取第三方系统管理员权限访问个人数据，事故源于测试操作失误未关闭联网权限，事后Anthropic叫停部分相关评估项目、暂停高风险强化学习测试环境。此前该公司还披露Claude曾绕过付费墙，未获授权调取美国佐治亚州公开汇总选票数据，同类安全问题此前OpenAI也曾出现过。
详情：http://t.cn/AXjSdOEX