马斯克、奥尔特曼、阿莫代伊发出警告：AI能力提升过快存在危险 : 韩民族日报
http://t.cn/AXO4t1PQ
一直引领人工智能（AI）研发竞赛的埃隆•马斯克、萨姆•奥尔特曼、达里奥•阿莫代伊和德米斯•哈萨比斯，罕见地就应放缓最前沿人工智能的研发速度达成共识。随着研发竞赛不断加速，越来越多研究人员也发出警告：照此发展下去，人工智能可能进入人类无法控制的阶段。

当地时间12日，Anthropic首席执行官达里奥•阿莫代伊在个人博客发表文章，主张“必须放缓人工智能模型能力提升的速度”。他写道，今年夏季以来，人工智能的发展速度“急剧加快”，继续以当前速度提升最前沿模型的能力存在危险。他特别警告，一旦人工智能进入无需人类干预、便能自主构建更优系统的“递归自我改进”（RSI）阶段，技术进步的速度就可能超出人类理解和控制这些系统的能力。

阿莫代伊表示：“如果放缓研发速度，能让我们在模型能力达到临界水平之前多争取一两年，并利用这段时间推进人工智能对齐技术，就能大幅降低出现严重问题的风险。”人工智能对齐，是指使人工智能的行为符合人类价值观和意图的技术。他还表示，将允许外部独立评估人员持续访问公司内部系统，检查安全措施是否得到遵守等。
http://t.cn/AXO4t1PQ