#美国AI天才称巨头拿我们的命在赌#【AI几年内可毁灭人类？美国顶尖AI天才辞职感言：巨头拿我们的命在赌！马斯克转发】#美国AI天才警告2030年AI或毁灭人类# 近日，这位先后效力于OpenAI和Anthropic的顶尖技术天才宣布离职，并在社交媒体上留下了一句令人毛骨悚然的临别赠言：“他们正在拿我们的命赌（gambling with our lives）。”这篇帖文不仅得到了马斯克的转发，而且浏览量高达1.2亿。他的话让很多人感同身受。

“我今天从Anthropic公司辞职了。过去三年，我一直在OpenAI和Anthropic两家公司从事预训练研究。这两家公司都没有尽到应有的责任。他们正一头扎进自我提升的超级智能领域，拿我们的生命冒险。”

考克森还表示：“不要低估这项技术的力量。这些很快就会发展成超人般的系统，它们可以入侵任何系统，一夜之间彻底改变任何领域，并获得真正的权力和资源。我们都见证了这些领域取得的进展，而且这种进展并未放缓。”

考克森认为：“AI开发者们真心相信，到了这个十年的末尾（即2030年左右），它可能会毁灭我们所有人。这并非营销噱头。”

考克森指出，Anthropic高管们并非不知晓其中的风险，但他们的行事逻辑却充斥着一种诡异的自洽：“因为不信任竞争对手能安全地开发超级智能，所以我们必须抢在他们前面造出来。”这种为了防止别人打开潘多拉魔盒，而拼命抢先打开魔盒的竞争焦虑，导致原本严苛的安全审查被不断降级，甚至直接取消。在抢占市场先机的诱惑面前，所谓的“技术对齐”（Alignment）更像是为了安抚公众情绪而敷衍了事的公关话术。

他还披露，那些在聚光灯下对AI前景侃侃而谈的高管和研究员，私下里却普遍被一种深度的末日恐慌所笼罩。Anthropic对齐团队主管埃文·胡宾格随后在社交平台上的公开回应，等于变相坐实了前者的指控。胡宾格坦陈，内部确实存在这种极度悲观的共识，他个人甚至预估“未来十年内AI毁灭人类的概率超过10%”。

更致命的是，胡宾格承认，公司目前根本没有解决超级智能安全对齐问题的明确计划。这就好比一群工程师正在夜以继日地建造一列没有刹车的高铁，而他们唯一的策略就是祈祷车速足够快，能在脱轨前冲上云霄。（红星新闻）http://t.cn/AX0DwWzq