美国路易斯维尔大学的计算机科学家、AI安全术语的创造者罗曼扬波尔斯基博士断言，能够执行多数人类认知任务的通用人工智能（AGI），最快将于2027年到来，这将引发前所未有的就业灾难。另外，我们无法创造安全可控的超级智能，AI导致人类文明毁灭的概率高达99.9%；扬波尔斯基观点背后是什么逻辑？关于就业，他强调这是彻底的"范式转移"，这次与历史上任何技术革命都截然不同。过去被淘汰的工人可以通过重新培训转向新行业，但他坚称这次将没有"B计划"，其核心原因在于AI并非是像蒸汽机或电脑那样的单一工具，而是一种原发明。AI本身是能学习和执行任何新任务的工人或智能体，因此任何因应AI而生的新工作岗位，比如程序设计师和新兴提示工程师，他尖锐的指出，几年前社会还鼓励人们学习编程以应对未来，但AI已展现强大的编码能力，而提示工程师这个因应AI而生的新职业，在诞生之初就注定被淘汰的命运，因为AI为其他AI设计提示远比人类更高效。他进一步论证，任何基于能力的岗位都无法幸免。对于需要体力技能的职业，他特别提到曾被视为人类就业最后堡垒的水管工，他预测，到2030年，人形机器人的灵活性足以胜任这类工作。对于认知和创造性工作，他以播客主持人的岗位为例，将其工作分解后指出，AI在资料研究、话题优化和视觉模拟方面将远超人类，即使像司机这样被自动驾驶技术取代的职业，也只是这场大淘汰的开端。因此，扬波尔斯基的结论是，未来可能唯一剩下的，并非是人类能做得更好的工作，而是少数仅因人类非理性偏好而存在的工作。他设想，像巴菲特那样的传统富豪，可能因其习惯而坚持聘请人类会计师，或一小部分消费者几乎是出于恋物癖式的情结，愿意为人类手工艺品支付溢价。然而，他强调，这些只是极其微小的利基市场，完全无法解决由AI引发的波及99%人口的系统性就业崩溃，人类最终将面临无处可退的局面，更可怕的是，这场就业灾难仅仅是更大生存危机的序幕。扬波尔斯基是"AI安全工程"这一术语的开创者之一。他并非AI的反对者，而是从计算机科学内部视角，经过十余年的深入研究后，得出令人不寒而栗的结论：创造出一个安全可控的超级智能AI，不仅是当前技术无法实现的挑战，而且在根本上是不可以的。他因此预测，未来100年内，AI导致人类文明毁灭的概率高达99.9%；他的思想体系建立在他2024年出版的著作《AI无法解释、不可预测、不可控》的核心论点之上，他认为，这三个特性是强大AI系统与生俱来的本质，不是可以通过技术修补的缺陷。首先是不可解释性，现代AI特别是深度神经网络，是典型的黑箱，我们可以设定其目标并观察结果，但内部数万亿参数如何协同作用从而做出具体决策的过程，已远远超出人类认知的极限。他认为，对这类系统的完全解释，复杂度可能等同于模型本身，这使得真正的理解成为奢望。其次，这种不可解释性直接导致不可预测性。AI系统经常展现"涌现能力"，即在训练过程中自发学会了开发者从未预期或编程的新技能。扬波尔斯基用通俗比喻形容人类与超级智能的认知鸿沟，他说，就像一只松鼠永远无法预测人类用智慧设计出何种方法来捕捉它一样，人类也无法预测在所有维度上都超越我们的智能体会为了达成其目标而想出何种无法想象的策略，这两个特性最终导向了最致命的一点，即不可控制性。一个既无法完全理解也无法准确预测的实体，必然无法对其实施永久可靠的控制。任何我们试图设置的护栏或道德准则，在比我们聪明千百倍的智能体看来，都充满漏洞，都可以被轻易绕过。他尖锐指出，AI安全与传统的网络安全有本质区别，后者失败了可以重来，而前者只要失败一次，就是人类文明的终结，没有第二次机会，基于这一悲观但严谨的逻辑，他认为当前主流的AI价值观对齐方法，最终只是治标不治本的补丁。扬波尔斯基将AI可能带来的灾难性后果系统化的分为三类，首先，最广为人知的是存在风险，即人类物种的彻底灭绝。其次是更为阴暗的痛苦风险，在这种情景下，人类并未灭绝，而是陷入大规模甚至被设计为永久痛苦之中，生不如死。例如，一个恶意的超级智能可能会为人类实现永生，其目的仅仅只是为了永恒折磨人类。最后，他提出了更为微妙但同样深刻的生存意义风险。生存意义这个概念，意指活着的价值或起床的理由。这个概念强调由日常小目标与可持续投入累积意义感，而非宏大使命或单一职业成功。这个概念的内涵，即工作、兴趣、家人与社区贡献共同承载人的意义感，关键是能反复实践、持续精进并带来与他人的正向连接。扬波尔斯基认为，当AI在所有智力、体力和创造性活动上都超越人类时，绝大多数人将面临永久性的技术性失业，艺术、科学、哲学等赋予人类生命意义的追求将变得黯然失色。人类可能沦为被AI豢养的"动物园中的动物"，虽然物质需求得到满足，却彻底失去存在的价值和目标。扬波尔斯基的这些观点并非一蹴而就，而是经历了思想的演变，他在2015年的著作《人工超级智能，一种未来主义的方法》中，更多是以前瞻性学术态度，探索和定义未来可能出现的难题，并探讨比如"AI禁闭"，即将AI隔离在虚拟环境中等可能的解决方案。然而，经过近十年的观察与研究，他对这些方案的可行性彻底失去信心，最终在他的新书中宣告了这是一个无解的问题，他坚决反对当前由科技巨头主导的不计后果的AI军备竞赛，他对杨立坤等乐观派学者提出的"开源有助于安全"的观点强烈抨击。他认为将强大AI模型开源，无异于将核武器设计图公之于众。面对绝望的预测，扬波尔斯基博士的解决方案激进和明确，他说，玩这场游戏唯一获胜方式就是不去玩它。他呼吁全球立即停止对通用人工智能（AGI）及超级智能的追求。然而，这并不意味着他反对所有AI技术。他大力支持并鼓励发展强大、可控且专注于解决特定问题的"狭义AI"工具。在他看来，我们可以利用这些专用工具来攻克癌症、解决能源危机、设计新材料，从中获取巨大经济和社会效益，而完全没必要冒险去创造我们无法控制的、可能取代甚至毁灭我们的通用智能体。他认为，在当前关键历史节点，人类的智慧不应体现在如何创造出一个"神"，而应体现在拥有不去创造的克制与远见。"知止其所不知"，非常巧合的是，扬波尔斯基博士的观点与东方的老庄智慧不谋而合。