子夜梦廊
26-10-03 10:53 微博认证:科技博主 微博原创视频博主

#OpenAI安全系统负责人离职#
冷知识:为了生产牺牲安全,以及一出事就甩锅AI安全团队,是O社的传统艺能。这几年已经气走或是辞退了N个安全团队成员乃至负责人。其中一人愤而带队出走后创立了Anthropic,成了O社现在最大的噩梦。

2020 年,研究与安全副总裁达里奥·阿莫迪 和他的妹妹达妮拉·阿莫迪带走核心安全团队,创立 Anthropic,打响了安全派与商业派路线斗争的第一枪。

2024 年 5 月,联合创始人兼超级对齐团队联合负责人 Ilya Sutskever 在安全权斗风波后宣布离职,标志着初代安全核心领导层的全面解体;

2024 年 5 月,超级对齐联合负责人 Jan Leike 随之愤然辞职,公开发文指责“产品光鲜盖过了安全文化”,超级对齐团队随后被彻底解散;

2024 年 8 月,ChatGPT 核心贡献者、对齐科学负责人 John Schulman 宣布转投竞争对手 Anthropic,进一步抽空了安全技术的研发骨干;

2024 年 10 月,AGI 准备度负责人 Miles Brundage 及资深安全研究员 Rosie Campbell 离职,伴随着 AGI 准备度团队的被裁;

2024 年 11 月,在 OpenAI 坚守 7 年的安全与研究副总裁 Lilian Weng(翁丽莲)宣布离职,安全高层几乎全面易人;

2026年 10月,三名安全研究员 Jasmine Wang、Tomek Korbak 与 Mikita Balesni 因向外部安全机构透露安全隐忧而被公司开除;

2026 年 10 月,安全系统团队负责人 David Robinson 在沙箱突破危机与内部清洗后正式辞职,为又一轮安全团队动荡划下句点。#ai创造营##科技先锋官#

发布于 上海