【#思进摘要点评##AI安全##全球科技监管# 年薪30万不选程序员:AI巨头重金雇佣“核武与生化哨兵”的内幕 | 行业观察:前沿 AI 安全升级,海外大厂加码 CBRN-E 风险专业防控】(资讯来源 | 华尔街俱乐部)随着大模型自主能力持续提升,AI 被用于衍生核、生化、网络灾难性风险的隐患受到海外科技巨头高度重视,Anthropic 搭建专业安全红队体系,招聘核物理、微生物、化工等领域专业专家,专门拦截模型输出高危技术信息,成为海外前沿 AI 安全防护的标志性布局。
海外学界提出人 - AI 协同危害评估框架,用以衡量大模型降低高危技术获取门槛的潜在风险;美国商务部依托 “视为出口” 管制规则,曾对 Anthropic 旗下两款高性能模型实施全球接入限制,后双方达成合规整改协议,企业承诺新增高强度安全拦截分类器、开放模型预发布审查通道,接受政府常态化风险情报同步。
行业自律政策在商业竞争环境下出现落地妥协:Anthropic 更新《负责任缩放政策》,调整单边研发暂停机制、优化核危害评估范围,反映出全球 AI 企业在安全标准与市场竞争间的平衡难题。当前海外高端大模型已建立分级准入体系,高权限研究版模型仅对完成严格背景审查的机构开放,同时纳入美国国家安全机构常态化安全检测,海外前沿 AI 产业已全面进入强主权管控时代……行业原文参考链接:http://t.cn/AX9UdrGh #产业观察#
【风险提示】本文仅介绍美国行业监管动态,不构成技术、投资建议。国内严禁借助 AI 研发核生化、爆炸危险品,违者违法;文中海外规则不适用于国内,请勿利用 AI 检索危险物品制备相关内容。
发布于 加拿大
