#Anthropic警告AI失控#昨天刷到Anthropic这波操作,真有点让人恍惚。一家刚烧完650亿美元、秘密提交IPO、估值直奔万亿美元的公司,突然跳出来对全世界喊“AI要失控了,咱们一起踩刹车”。这种一边猛踩油门一边挥手示警的精分场面,直接把舆论撕裂成了两派。
先看他们说了什么。那份《当AI开始自我构建》的报告确实触目惊心:代码库里八成以上的新代码已经是AI自己写的,研发效率暴涨八倍,能力翻倍周期从七个月缩到四个月。他们管这叫“递归自我改进”,一旦AI能自己迭代出更强的下一代,人类可能连监控都来不及反应。所以他们呼吁搞一个AI版核不扩散条约,全球同步暂缓研发,建立核查机制。
但问题来了,为什么偏偏是这个时间点?刚融完史上最大一笔钱,估值顶上整个A股半导体板块,IPO文件还热乎着,这时候呼吁全球停产,资本市场很难不往阳谋上想。一种很尖刻的解读是:这更像是恐惧营销,用末日警报吓唬市场,把AI天花板的故事讲得更宏大,顺便把合规门槛拉到自己刚好够得着的位置,让那些追赶的开源模型和廉价竞品直接被规则绊倒。
当然,也不能完全否定真诚的成分。这家公司从成立第一天就打安全牌,CEO这些年翻来覆去说AI风险,把监管呼吁当成行动纲领而非临时起意。也许真相更接近一种混合态:他们确实怕,但这份怕里同时裹挟着商业本能——在临界点到来前,先把游戏规则定好,而这套规则恰好是他们最擅长、成本最低的模式。
抛开动机争议,这件事客观上把AI治理推到了不得不谈的地步。无论Anthropic到底想刹车还是想超车,至少大家都开始认真面对一个问题:如果这些代码确实在加速接管自己的迭代权,我们到底打算怎么办?#秒懂热点就用智搜# http://t.cn/AXXR3NAp
发布于 河南
