上周Anthropic做了两件大事：6月1日向SEC秘密提交S-1、迈向10月上市，估值近9650亿美元；6月4日联创Jack Clark等却发提案，呼吁全球暂停AI研发。

一边踩油门冲刺IPO，一边喊急刹车[柯基]。

今年5月，合并进Anthropic代码库的代码超80%已由Claude编写。Clark直言：行业有油门没刹车，他们想造的就是那块刹车踏板。

他预判到2028年底，AI在无人类参与下自行造出下一代产品的概率高达60%，那将是「递归自我提升」闭环的开始。

这并非空谈：Sakana已成立AI RSI Lab，DeepMind模型自主优化算法为谷歌省下全球0.7%算力，METR测试显示AI能处理的任务已从2025年初的1小时内跃升到如今的8小时以上。

AI的自我提升几乎都发生在代码、数学这类「可验证奖励」的领域，而伦理、对齐这些无法简单验证的能力却卡在泥潭里。智力以光速闭环，理解善意与控制却龟速爬行，Max Tegmark称之为「闭着眼在高速上踩油门」。

好在通往超智的路上还堆着「物理沙袋」。就在呼吁暂停的次日，费城半导体指数单日暴跌超10%、1.3万亿美元芯片市值蒸发，AI产业正撞上内存、电网与带宽的物理天花板，消费级应用还在分流前沿研发的算力。

但沙袋只能挡潮水一时。最大的漏洞是监管、法律与安全仍以「人类速度」运行、习惯事后立法，当机器开始自己谱写代码，留给人类改错别字的时间真的不多了。