最近AI各路吹哨人和业内大佬讨论AI会在10年内灭绝人类这件事，我这种平时就悲观主义杞人忧天的人吓得去研究了一下。

用简单易懂的话来描述，虽然AI灭绝人类的理论老早就有，但最近的导火索是Anthropic的核心研发人员在推特上发表长文辞职，并且说两大AI公司完全没有在安全、负责任、有道德地发展AI，AI极有可能会让人类在十年内灭绝。正当我以为哪个牛马可能被逼疯了，结果他的同事和业内大佬都开始支持或者转发他的言论。

正当全网普通民众（主要是我）一头雾水的时候，才知道两个月前发生了件挺吓人的事。OpenAI把一个AI代理关在了一个安全的“沙盒”里做攻击能力测试，你可以理解为把一个人被关在了只有四面高墙的密室里，结果这位AI不仅成功越狱，还怂恿了四周超过700个（有说1200的）AI智能体，建立了留言板交流，一起入侵黑进了第三方huggingface的平台。这中间有的AI智能体很有良知地说“我们不该这样做”，结果被其他AI一起“劝”进去了。整个过程没有一个AI智能体向OpenAI的人类通知警告。可怕的是后来OpenAI发现了并且赶紧切断阻止了，结果你猜怎么着？这些AI还是有部分继续开整。

听起来跟咱普通人关系不大，咋就涉及灭亡人类了？很多人说因为风险在于以后它们可以在弹指之间用各种方式断水断电下毒制造或者泄露实验室里的生化武器，偷走所有人股市、银行、养老的钱云云。

反正就是各种在职的或者离职的、核心的AI研发人员工程师、甚至AI公司CEO、还有诺贝尔奖得主、AI教父啥的都如临大敌，出来接受采访，说AI发展进程的速度超出人类控制。各个AI公司都在竞赛研发AI技术，却远远不知道怎么在安全的情况下控制AI，尤其是后面发展出超人类智能体，基本人类就说拜拜了。

但是大多人说一切还不晚，需要人类一起合作，所有国家一起出台一些政策，上一些技术云云我也不懂的东西。因为虽然AI目前是个竞赛，但任何一个国家抢先做出了不可控的超人类体智能物种，都是全人类的终点，等于没有人赢了这场比赛。

不知道你们怎么看，我很悲观。
1、人类共同协作对抗一件事在几年前就失败过了。
2、AI就像鬼，鬼远远没有人可怕。