【OpenAI前研究员揭露“公开秘密”：#人类正打造无法完全控制的AI#】 #OpenAI##AI对齐##超级智能#

凤凰网科技讯 5月13日，据《商业内幕》报道，OpenAI前研究员、现任AI未来项目(AI Futures Project)负责人丹尼尔·科科塔伊洛(Daniel Kokotajlo)表示，AI行业正在竞相构建各家公司自身尚未完全理解或控制的系统。

科科塔伊洛在去年5月接受《商业内幕》记者采访时解释说，AI公司面临的核心问题是“对齐”问题，即努力确保未来的AI系统能够可靠地遵循人类的指令和价值观，即使它们在许多领域的能力已经超越人类。
他表示，研究人员目前并不完全理解先进AI模型在内部如何做出决策，这种不确定性使得很难确保未来系统真正“对齐”并稳定执行人类希望它完成的目标。
http://t.cn/AXiVQqeB