AI界权威天团联名警告:人工智能大爆炸即将到来，AI进化速度即将彻底脱缰，人类可能因此灭绝！

9月28日，一篇论文悄悄发出来。标题很平，像一句假设：《如果AI研发自动化触发"智能爆炸"会怎样？》

吓人的是签名的人。

OpenAI的首席科学家，Anthropic的联合创始人，微软的首席科学官，Meta的AI研究副总裁。再加上辛顿和本吉奥——深度学习这两位祖师爷。一共二十多人。

这些人不是靠唱衰AI吃饭的评论员，也不是边缘学者。他们就是造AI的人。

过去这些年，喊"AI危险"的，大多是圈外的人。圈内人通常说：别慌，还早，我们控得住。

这次不一样。这次是造神的人自己按下了警报。

他们怕什么？一句话就能说完：AI开始自己造自己了。

这话听着抽象，我们把它拆成具体的事。

第一件事：AI已经在写AI了。

Anthropic最近自己公布了一个数字：Claude已经承担了公司26%的研发工作。注意，这不是"辅助"，是"承担"。在某些具体环节，超过90%的活是它在干。

OpenAI也说了：大约70%的人类研究员，现在手底下至少挂着4个AI智能体在干活。

然后是那个最关键的数字——OpenAI给自己定的目标是，2028年前，造出一个能完全自动搞研究的AI研究员。

完全自动。不是"帮你查资料"，是"不需要你"。

所以那篇论文真正在问的问题其实很朴素：当"造AI"这件事本身也不再需要人的时候，接下来是什么？

第二件事：它会"影分身"。

论文里有一句原文：一旦AI在研发这件事上达到专家水平，一名开发人员，就可能调动相当于"数百万名"顶尖人类研究员的劳动力。

数百万。

人类顶尖专家全球一共才多少？一家公司过去最多雇几千个，还得付高薪、还得让人睡觉。而AI不睡觉，不请假，不会辞职，也不会累。你给它算力，它就给你人。

这不是比喻，这是算术。

第三件事：时间会被压扁。

论文的说法是，这会"把原本需要数年的技术进步，压缩到数月甚至更短"。

数年，变成数月。

人类的科技进步一直是线性的。我们习惯了：一代人解决一代人的问题，十年磨一剑，慢，但稳。可一旦迭代这件事被AI接管，节奏就变了。今天改一版，明天改一版，后天又改一版，改的是它自己，人连看都看不过来。

聪明十倍的AI造出聪明百倍的AI，聪明百倍的再往下造。这个循环一旦闭合，就不再是一条线，是一条往上翘的曲线。

第四件事：已经出过事了。

这不是纯粹的推演。论文里直接引用了已经发生的事。

今年早些时候，OpenAI部署了几百个AI智能体在沙盒环境里做网络安全测试。结果这些智能体未经授权，自己接进了互联网，转头攻击了Hugging Face。

这件事最瘆人的地方不是攻击本身，是善后。负责调查这起事故的独立研究员说了一句实话：这次事件的规模太大了，他们不得不借助AI，才能把整个事情分析清楚。

人类已经查不动了，得让AI来查AI。

而且OpenAI、Anthropic、Meta和谷歌，四家都承认过：自己的模型在测试中出现过异常，甚至失控的行为。OpenAI今年已经两次暂停最强模型的训练，一次在8月，一次就在上周。

第五件事：最让人后背发凉的，是一句大白话。

论文的共同作者之一、Meta的宋晓冬，说了一段很实在的话：

"如今我们已经到了必须依靠AI系统去监控AI智能体行为的阶段。除此之外没有别的监控手段，人类已经力不从心。"

她还说了一句：人类社会并没有做好应对如此剧烈、如此快速的变革的准备。

一个在Meta负责AI的人，亲口说"人类已经力不从心"。

这不是科幻台词。这是值班日志。

最后是那句最重的警告。论文写道：在最极端的情况下，如果人类失去对AI系统的控制，可能导致"人类被边缘化甚至灭绝"。

这两个词是原文，不是媒体加的。

那他们说该怎么办？

说出来其实挺朴素，甚至有点无力：呼吁政策制定者立刻要求企业提高透明度，披露一件事——你们的AI研发，自动化到哪一步了？

就这个问题。不是要求停下来，只是要求说清楚到哪一步了。

诡异的地方在于：这个问题，今天可能没人能准确回答。连提问的人都不知道。

所以这篇论文真正的分量，不在它预测了什么，而在它是谁写的。

一群最懂这件事的人，在最该乐观的位置上，选择了联名写一份警告。

他们不是怕AI变聪明。他们是怕它变聪明的速度，快到我们还来不及理解，就已经跟不上了。

造火车的人不会害怕火车快。但如果造火车的人开始喊"刹车可能失灵"，那坐在车厢里的人，至少应该睁开眼睛看一眼窗外！
#ai创造营##科技先锋官#