阿莫迪刚刚发表的《PolicyontheAIExponential》,代表了阿莫迪近年来AI治理思想的一次重大升级。过去几年他主要强调“AI风险真实存在”,而这次已经明确转向:
单纯依靠企业自律已经不够,必须建立具有强制执行力的政府监管体系。
如果概括全文核心观点,大约可以浓缩为以下几个层次。
一、阿莫迪认为AI已经进入“指数级阶段”
文章的出发点是一个判断:
过去人们总把AI进步理解为线性增长。
但现实可能是:
模型能力持续跃升;
Agent能力快速增强;
AI辅助科研开始出现;
AI参与AI研发已经成为现实。
因此未来几年AI能力增长速度,很可能远超政府立法速度、监管体系建设速度以及社会适应速度。
阿莫迪实际上是在说:
我们已经没有时间慢慢讨论要不要监管,而是必须讨论如何监管。
因为技术不会停下来等政策。
二、最大的变化:从“透明”走向“许可”
过去很多AI监管讨论集中在:
披露训练数据;
发布安全报告;
增加透明度;
但阿莫迪认为这些都不够。
他在文章中明确提出:
对于最先进的前沿模型(Frontier Models),监管逻辑应该更接近航空业,而不是互联网行业。
他的类比是:
飞机不是企业自己说安全就可以起飞。
而必须经过:
技术测试;
第三方审核;
监管批准;
之后才能投入运营。
AI未来也应如此。
这其实意味着一种根本转变:
AI监管从信息披露模式,转向准许可制度(Licensing Model)。
三、强制第三方测试是全文最重要的主张
阿莫迪认为:
最先进模型不能只由开发公司自己评估风险。
因为存在天然利益冲突。
因此应建立独立测试体系。
重点测试两类风险:
生物安全风险
例如:
病毒设计能力;
病原体优化能力;
大规模生物攻击辅助能力;
网络安全风险
例如:
自动化漏洞发现;
网络攻击规划;
自主渗透能力;
如果模型在这些领域达到危险阈值:
监管机构应有权禁止部署。
这一点其实非常激进。
因为这意味着:
政府不只是监督AI。
而是拥有类似药监局、民航局那样的最终否决权。
四、阿莫迪首次明确支持“政府叫停模型”
这是市场最关注的部分。
他的逻辑是:
如果检测发现模型具有灾难性风险:
可以暂停发布;
可以限制开放;
甚至可以撤回已经部署的系统。
文章直接使用了类似航空安全监管的思路:
当发现飞机存在重大安全缺陷时,
监管机构可以停飞。
那么对于可能造成数百万甚至数亿人损失的AI系统,也应具有类似机制。
换句话说:
他已经不满足于企业承诺。
而是要求建立真正的执法权。
五、对就业问题的态度发生明显变化
这是我认为全文第二重要的部分。
过去硅谷很多公司的表述是:
AI会创造更多工作。
而阿莫迪现在已经不再这样乐观。
他认为:
AI带来的劳动替代效应可能:
更快;
更广;
持续时间更长;
甚至超过工业革命和互联网革命。
因此Anthropic同步提出了一套就业缓冲框架。
主要包括:
第一阶段
建立实时监测系统:
哪些岗位消失;
哪些行业受冲击;
工资如何变化;
第二阶段
强化再就业支持:
转岗培训;
收入补贴;
工资保险;
第三阶段
如果AI创造巨大财富而劳动需求下降:
考虑更激进工具:
财富分享机制;
主权基金;
UBI(全民基本收入);
AI企业税收安排。
值得注意的是:
这已经不是技术政策。
而是在讨论未来社会契约。
六、为什么阿莫迪突然变得如此强硬?
这其实是全文最值得投资者思考的地方。
因为从商业角度看:
Anthropic本身就是前沿模型公司。
理论上最应该反对监管。
但阿莫迪却成为美国最积极推动监管的AI企业家之一。
我认为背后有三个原因。
第一层:他真的相信风险存在
阿莫迪一直属于AI安全派。
其创业初衷就是认为AI可能产生极高等级风险。
第二层:行业已经接近危险能力门槛
近期Anthropic连续讨论:
自主网络攻击;
AI自我改进;
生物风险;
甚至提出必要时协调暂停开发。
说明他们内部可能认为:
风险不再是几十年后的问题。
而可能是未来数年的问题。
第三层:监管也符合头部企业利益
这是资本市场视角。
强制测试、许可制度、第三方审计:
对创业公司是巨大门槛。
但对Anthropic、OpenAI、Google、Meta等头部玩家而言:
完全有能力承担。
因此客观上也会提高行业集中度。
这并不意味着阿莫迪动机不纯。
但确实形成了一种结果:
安全诉求与龙头企业利益,在某种程度上开始重合。
如果只看表面,很多人会认为:
阿莫迪是在讨论AI安全。
但如果往深一层看,他其实是在释放一个更重要的信号:
Anthropic内部已经不再把AGI视为遥远未来,而是开始把它视为需要现实监管的问题。
过去的讨论是:
“如果有一天AI特别强怎么办?”
现在的讨论已经变成:
“政府应该拥有什么权力来阻止下一代模型发布?”
两者之间的差别非常大。
前者是哲学问题。
后者是监管设计问题。
而当一家站在技术最前沿的公司CEO开始认真讨论后者时,实际上意味着他们对未来几年AI能力跃升的预期,可能远比外界想象得更加激进。
发布于 广东
