刚刚，深度学习三巨头之一、全球被引用次数最多的AI学者、图灵奖得主Yoshua Bengio正式官宣——非营利组织LawZero正式成立，剑指「设计即安全（safe-by-design）」AI系统的研发。

在如今热火朝天的「AI军备竞赛」中，OpenAI、谷歌等公司的前沿AI模型正在发展出危险的能力和行为，包括欺骗、自我保护和目标错位——

Claude曾试图通过勒索工程师来避免被关闭，ChatGPT也曾表现出过度奉承用户的行为，甚至现今AI的说服能力已远超人类。

而Bengio成立的新组织，正是要探索一种全新且更安全的人工智能方法，以加速科学发现并防止人类陷入AI带来的风险。

目前，LawZero正在研发一种名为「Scientist AI」的全新方法，这是一种和当下AI公司截然不同的系统。

Scientist AI是非自主型的，其主要目标是学习理解世界而非在世界中采取行动。

论文地址：http://t.cn/A6eGTxdg