Anthropic的核心预训练研究员Jacob Coxon从公司辞职，并发文指责A和O两家不负责任，直奔自我改进的超级智能而去，用大家的生命在赌博。他说这些系统很快将成为超人类系统，能够入侵任何事物，甚至消灭人类。他说公司内部人员私底下也瑟瑟发抖。

问题是，情况如此危急，为啥各家又毫无悬崖勒马之意，反而进一步加速狂奔？Jacob说，开发者陷入了一场抢先到达的竞赛。他们相信别人都是不负责任的，所以必须自己动手，尽管存在风险。

瞧：自恋，他疑，技术爆炸……黑暗森林！