核武器管控历史:一种破坏力极强、民用价值有限、物理载体难复制的毁灭工具;管控最终靠卡关键物料、大国多边协议,实现延缓扩散、建立威慑平衡,但无法根除。
AI安全降速猜想:一种民用价值巨大、复制成本极低、能力可以无限迭代的通用能力放大器;管控会借鉴核管控的“门槛+核查+多边协商”思路,但因为AI天生容易扩散、经济代价巨大,不可能复刻核不扩散条约那种强约束,最终大概率是管控高风险场景,而不是冻结技术本身。
发布于 上海
核武器管控历史:一种破坏力极强、民用价值有限、物理载体难复制的毁灭工具;管控最终靠卡关键物料、大国多边协议,实现延缓扩散、建立威慑平衡,但无法根除。
AI安全降速猜想:一种民用价值巨大、复制成本极低、能力可以无限迭代的通用能力放大器;管控会借鉴核管控的“门槛+核查+多边协商”思路,但因为AI天生容易扩散、经济代价巨大,不可能复刻核不扩散条约那种强约束,最终大概率是管控高风险场景,而不是冻结技术本身。