OpenAI内部有个所谓超级对齐(Superalignment)团队。它旨在开发、控制和操纵所谓的超级智能技术,探索如何利用这种智能解决核聚变、星际殖民等人类面临的重大挑战。
超级的意思,是比人的智能更强。
图片这个小伙子叫Leopold Aschenbrenner,利奥波德·阿申布伦纳,这个部门的成员。他于去年突然被OpenAI开除,说他泄密。但是一直没有说他泄密了什么。
只是业内风传,阿申布伦纳与一个被称为“有效利他主义运动”的社团有紧密联系,该运动强调优先解决人工智能可能带来的潜在风险,而不仅仅是追求短期利益或生产力的提升。
今天,在图灵逝世70周年的时候,他突然发声,称果然是因为他向主管提交了一份涉及AI安全性的备忘录,与主管大吵一架后被开除的。
他今天还公开了一份长达165页的PDF文档,给出了对AI趋势的推测。
我已经看了两遍,非常震惊。正在想哪些是他过于激进的危言耸听,哪些是听起来靠谱的预测--真的有。稍后跟大家通俗地报告。
http://t.cn/A6HG8P52
发布于 北京
