【#Anthropic 拟推 AI 安全法案#：50 人遇难或 10 亿美元损失可触发司法叫停】#Anthropic##AI 安全法案#

美国人工智能实验室 Anthropic 近日向国会议员递送一份由其自行起草的 AI 安全法案草案，首次为“灾难性风险”设定量化触发门槛，并提出一套“独立评估—上报—司法叫停”的监管闭环。草案主张，当前沿模型存在可预见、迫近的风险，可能导致超过 50 人死亡或重伤、或造成超过 10 亿美元财产损失，且风险源自生物武器、模型规避开发者控制或网络攻击三类场景时，美国商务部可请求华盛顿特区联邦法官叫停模型发行；草案同时明确禁止任何联邦机构自行行使叫停权限。http://t.cn/AXjzgVOx