曾在Anthropic和OpenAI工作过的人工智能研究员雅各布·科克森在X平台宣布了自己的离职消息，他表示这两家科技巨头正在“拿我们的生命赌博”，并警告世界“不要低估这项技术的力量”。他说：“这些系统很快将成为超人类系统，能够入侵任何东西，在一夜之间颠覆任何领域，并获取真正的权力和资源。我们已经目睹了这些领域中的每一个所取得的进展，而且进展并未放缓。”他称，Anthropic和OpenAI都在“全力竞逐自我改进的超级智能”，也就是说，AI模型能够开发出比自己更强大的后继版本，从而形成一种无法遏制的反馈循环。他警告称：“那些正在构建AI的人真心相信，它可能在十年内杀死我们所有人。”随后，Anthropic负责使技术同人类目标和价值观对齐的主管埃文·胡宾格表示支持科克森的说法，他估计，未来十年内发生“AI杀死所有人类”这种情形的概率高于10%，并且目前尚无如何在超级智能情景下使AI同人类目标对齐的计划。

雅各布·科克森发布上述消息后不久，两党议员都加紧呼吁在为时已晚之前就人工智能安全立法达成共识，但议员们在具体方案上仍存在巨大分歧。OpenAI和Anthropic尚未就此事做出回应，但两家公司的领导人不久前都曾就AI安全问题与国会进行过沟通。

科克森的担忧为佛罗里达州最直言不讳的人工智能怀疑论者——州长德桑蒂斯和州总检察长乌斯迈尔——在放缓该技术发展的斗争中提供了新的论据。乌斯迈尔周三在迈阿密的一场活动上说：“你们都读过《科学怪人》这本书或看过这部电影。如果你创造了一个怪物，它跑出去杀了人，你不能拍拍手说‘哦，不是我的错，我不想让它那么做’。”

图片来源于网络