『纽约客』真的真的杀疯了。
作为全球做深度报道最顶尖的媒体,它采访了上百位了解 OpenAI CEO 萨姆·奥特曼(Sam Altman)的知情人士,并获取了此前从未公开的机密文件,最终写就了一篇翔实、细致的调查报告。
有些是大家已经知道的内容,但补充了细节和不同角度。有些则是第一次披露,读完只能说大为震撼。
翻译成中文也足足有三万多字,如果没有时间阅读原文(原文在这>>http://t.cn/AXMhZm6e),也可以读一下我做的重点摘录:
- 开篇是关于当时萨姆·奥特曼著名的开除事件。2023年,前 OpenAI 首席科学家苏茨克维(Ilya Sutskever)向董事会发送了大约七十页的秘密备忘录,指控奥特曼向高管和董事会扭曲事实,并在内部安全协议上弄虚作假。当时的董事会采信了这份备忘录,迅速将奥特曼从 OpenAI 扫地出门。
- 被开除当天,奥特曼中断了观摩 F1 的行程,飞回了旧金山,并召集了投资人康威、爱彼迎联合创始人布莱恩·切斯基,以及公关专家克里斯·勒汉迅速开团,以进行危机公关。
- 在危机公关中,奥特曼曾向前 OpenAI 首席技术官米拉·穆拉蒂(Mira Murati)传话,威胁称自己的盟友正倾巢出动、搜集黑料,要毁掉她和其他倒戈者的声誉。穆拉蒂当时正出任 OpenAI 临时 CEO,正是她为苏茨克维起草备忘录提供了弹药。
- 除微软之外,奥特曼的回归还得到了风投机构 Thrive 的全力支持。Thrive 叫停了原定投资,并放出风声:只有奥特曼回归,交易才会落定,员工才能借此套现。当时 OpenAI 正处于和 Thrive 完成一笔巨额融资的最后关头,只要交易达成,许多员工可以套现数百万美元。于是员工们自发开始劝周围人在奥特曼回归的公开信上签名。
- 当奥特曼重新回归 OpenAI 成定局后, 他坚决要求当初推动罢免他的董事辞职。作为离开的条件,出局的董事则要求对奥特曼面临的指控展开调查,包括挑动高管内斗,以及隐瞒个人财务纠葛。
- 这个调查后来确实进行了,却没出具任何报告。公司只是在官网上发了篇 800 字左右的声明,承认高层之间出现了信任破裂。许多 OpenAI 的现任和前任员工告诉『纽约客』,他们对这种零披露的处理方式感到震惊。
- 奥特曼有个早期创业项目叫 Loopt,是一个早期的社交网络,通过翻盖手机的定位功能让好友相互共享位置。在管理当时那家公司时,他就展现出了两种特质:总能把模糊不清的局面解释得对自己有利,以及连鸡毛蒜皮的小事都要夸张。
- 有趣的是,由于不满奥特曼的管理风格和不透明作风,Loopt 的高管曾两度要求 Loopt 董事会罢免其 CEO 职务,和之后 OpenAI 发生的事情如出一辙。
- 2014年,保罗·格雷厄姆亲自邀请奥特曼担任投资孵化器 YC 的掌舵者。但有投资人表示:“圈内都知道奥特曼会挑最好的公司投自己的钱,并把外部投资人挡在门外。”
- 2008 年,奥特曼年仅 23 岁,保罗·格雷厄姆就表示:“就算你把他空投到一个满是食人族的小岛上,5 年后再去,他肯定已经成了那里的王。”
- 一位知情人士称,在对金融科技公司 Stripe 进行天使投资时,奥特曼坚持自己要拿更大的份额。他向 Stripe 投了 1.5 万美元的首笔资金,换来 2% 的股份。如今该公司估值已超 1500 亿美元。据奥特曼自己估算,他个人投资了大约四百家公司。
- 到了 2018 年,几位 YC 合伙人对奥特曼的行事作风忍无可忍,集体向格雷厄姆投诉。格雷厄姆和同为 YC 创始人的妻子找奥特曼开诚布公地谈了一次。谈话的结果是:奥特曼告诉部分 YC 合伙人,自己会辞去总裁一职,但要转任董事长。
- 奥特曼始终坚称自己从未被 YC 开除,格雷厄姆也曾发推表示:“我们不想让他走,只是想让他在 YC 和 OpenAI 之间二选一。”但在私下里,格雷厄姆的态度十分坚决:奥特曼出局,就是因为 YC 的合伙人们对他失去了信任。格雷厄姆曾对 YC 的同事表示:“萨姆一直在对我们撒谎。”
- 奥特曼最初将 OpenAI 挂靠在 YC 的非营利部门,对外包装成一个内部的慈善项目,并由一个奥特曼本人持股的基金供血。他用 YC 的股票招揽 OpenAI 员工,并通过 YC 的账户走账。但他自己解释说,分给新员工的 YC 股票都出自他个人名下。
- 除了上文提到的苏茨克维外,奥特曼第二个招聘的重点目标就是生物物理学家达里奥·阿莫代伊(Dario Amodei),没错,就是今天 Anthropic 的创始人。
- 阿莫代伊后来把奥特曼和布罗克曼的言行详细记录下来,整理成一份题为《我的 OpenAI 经历》的笔记,并且在硅谷同行之间广为流传。
- 2015 年 12 月,就在 OpenAI 正式官宣的几小时前,谷歌为了将其扼杀在摇篮里,谷歌向苏茨克维开出了 600 万美元的年薪,试图挖走他。但苏茨克维为了理想留在了 OpenAI 。
- 奥特曼告诉早期招募的员工,OpenAI 将保持纯粹的非营利性质,而程序员们也因此接受了大幅降薪来到这里工作。
- 因为奥特曼和马斯克还有其他工作,当时管理 OpenAI 的主要是布罗克曼(Greg Brockman,现 OpenAI 总裁)和苏茨克维。到了 2017 年 9 月,马斯克和奥特曼开始争夺 OpenAI 的控制权。最后的事情大家都知道了,马斯克愤而退出,并认为奥特曼设下“长线骗局”,对自己进行了“处心积虑的操纵”,骗取他的资金。
- 马斯克走后,奥特曼开始谋求 OpenAI 的 CEO 职位。他利用当时研究员们对布罗克曼的不满,向部分研究员保证,会削弱布罗克曼的管理权,请大家支持自己。但背地里,他却与布罗克曼和苏茨克维达成了秘密的口头协议:奥特曼出任 CEO,作为交换,只要另外两人认为有必要,他就会辞职。
- 当 OpenAI 的技术实力越来越强,OpenAI 内部的不安也越积越深。公司约十余名顶级工程师秘密召开了一系列会议,反复讨论同一件事:包括布罗克曼和奥特曼在内的创始人,到底靠不靠得住。
- 2018年初,阿莫代伊再也忍不住,开始动手为公司起草一份章程,力主保留其中最激进的一条:一旦某个价值观一致、具有安全意识的项目在 OpenAI 之前率先逼近通用人工智能,OpenAI 就必须停止竞争,转而协助 —— 这一准则后来被叫作“合并与协助”条款。
- 如果觉得上面这个条款很难理解的话,通俗解释下:如果谷歌的研究人员先找到了通往 AGI 的正确的道路,OpenAI 就解散,把家当全捐给谷歌。
- 2019 年春天,OpenAI 正与微软谈一笔十亿美元的投资。阿莫代伊向奥特曼递了一份按优先级排列的安全诉求,把“合并与协助”条款的保留摆在第一位。奥特曼答应了。
- 然而到了 6 月,合同眼看就要拍板,阿莫代伊发现文本里悄悄多出了一项条款,赋予了微软阻止 OpenAI 进行任何合并的权力。
- 发现自己被背叛的阿莫代伊找到奥特曼当面质问,奥特曼矢口否认。阿莫代伊把原文逐字念出来,手指着纸上的字,最终逼着奥特曼当着另一位同事的面亲口确认。
- 这件事后,阿莫代伊和奥特曼的矛盾逐渐公开化。有次奥特曼把阿莫代伊和妹妹丹妮拉(Daniela Amodei,当时负责 OpenAI 的安全与政策事务)一起叫到办公室,说有个高管告诉他,兄妹二人一直在密谋颠覆他。
- 丹妮拉当场爆发,把那位高管叫进来当面对质,对方断然否认。见势不对,奥特曼随后又反口,说自己根本没提过这件事。
- 2020年,阿莫代伊、丹妮拉和几位同事离开,创立了 Anthropic —— 如今,这是 OpenAI 最强的对手。
- 在招募人才时,奥特曼高调标榜 OpenAI 对安全的承诺。2022 年,他为了招揽加州大学伯克利分校的一名博士生,许诺将为 AI 对齐问题投入 10 亿美元。这笔资金的具体形式可能是设立一项奖金,激励全球研究人员去攻克它。这位研究生告诉『纽约』,尽管他曾“隐约听说萨姆这人有些两面三刀”,但奥特曼展现出的决心还是打动了他。
- 然而,在 2023 年春季的几次会议中,奥特曼不再提设立奖金的事,转而主张在公司内部组建一个超级对齐团队。OpenAI 随后发布的官方公告中承诺将“迄今所获算力的 20%”拨给该团队,这笔资源的潜在价值超过 10 亿美元。
- 如你所料,这 20% 的算力承诺最终成了空头支票。四位曾在该团队工作或与其合作密切的人士透露,实际到手的资源仅占公司总算力的 1% 到 2%。团队里的一名研究员表示:“超级对齐团队的大部分算力,其实都跑在芯片最差、最老旧的集群上。
- 就在第二年,“超级对齐”团队即遭解散。事实上,这就是奥特曼招揽人才的一种惯用谎言。当时的公司高管说“这招在留住人才上非常有效。”
- 在 2022 年 12 月的一次会议上,奥特曼向董事会保证,即将发布的 GPT-4 模型中,多项功能均已通过安全小组审批。但当董事会成员、AI 政策专家 Toner 索要书面文件时,她发现两项最具争议的功能根本没过审。
- 2023 年,公司准备发布 GPT-4 Turbo。奥特曼告诉过穆拉蒂,这款模型不需要安全审批,还搬出公司总法律顾问 Jason Kwon 为自己背书。但当穆拉蒂在 Slack 上向 Kwon 求证时,Kwon 表示:“呃……搞不懂萨姆从哪儿得出的结论。”
- 前董事会成员 Yoon 则认为,奥特曼“并非马基雅维利式的反派”,他只是极度擅长自我说服,对自己推销说辞中不断变幻的现实信以为真,甚至到了毫无责任感的地步。她表示:“他太沉溺于自己的信念了,所以站在现实世界的角度看,他的所作所为毫无逻辑。但他压根就不活在现实世界里。”
- 这位董事会成员还表示:“真相根本约束不了萨姆。他身上有两种极少同时出现的特质:一是极度渴望取悦他人,希望在任何互动中都讨人喜欢,二是对欺骗他人可能带来的后果,表现出近乎反社会般的漠不关心。”
- 亚伦·斯沃茨是奥特曼在 Y Combinator 第一期的同期学员,这位才华横溢却饱受精神折磨的程序员于 2013 年自杀。在去世前不久,斯沃茨向几位朋友表达了对奥特曼的担忧。他告诉其中一位朋友:“你需要明白,绝对不能信任萨姆。他是个反社会者。他什么事都做得出来。”
- 连此前鉴定支持奥特曼的微软也被耍得团团转。微软高管在谈及奥特曼时吐槽:“我觉得他最终可能会作为伯尼·麦道夫或萨姆·班克曼-弗里德那个级别的世纪巨骗被载入史册。这种可能性虽然不大,但绝对存在。”
- 多位曾与奥特曼合作的知名投资人透露,他在圈内以封杀异己著称:如果投资人支持了 OpenAI 的竞品,他就会将其彻底拒之门外。其中一人说道:“要是投了他不喜欢的项目,以后就休想再碰他的其他资源。”
- 奥特曼权力的另一大支柱,是他庞大的投资版图,而这些投资有时会延伸到他的私生活中。他与多任前伴侣有着复杂的财务绑定:他们有时是基金的联合管理人,有时是领投方,有时则是频繁合投的搭档。
- 当奥特曼决定要将 OpenAI 改成一个营利实体时,董事会成员霍尔登·卡诺夫斯基提出异议,并投了反对票。然而,在显然未经他本人同意的情况下,这张反对票被记成了弃权,这涉嫌篡改商业记录。
- 到目前为止也没有人确切知道奥特曼到底间接在 OpenAI 持有多少股票。一位前员工回忆起他曾说过:“我不在乎钱。我更在乎权力。
- 奥特曼不止一次公开表示欢迎监管,甚至在“恳求被监管”。但背地里,他却在暗中游说抵制,甚至让公司找人威胁那些与自己意见相左的人。
- 布罗克曼曾提出了一个惊世骇俗的赚钱方案:OpenAI 可以利用世界大国之间的矛盾相互牵制,甚至在它们之间挑起竞价战,借机大发横财,把它像核技术一样卖给各个国家。多位参与者和当时的内部文件显示,OpenAI 的高管们似乎对这个提议越来越兴奋。
- 当高管在公司会议上详细拆解该计划时,许多研究员都惊呆了。当几位研究员因此而威胁辞职时,该计划才被搁置。前 OpenAI 的政策与伦理顾问 Page Hedley 觉得这也很讽刺:“在萨姆的算盘里,‘员工离职’的严重性,永远排在‘引发大国战争’前面。”
- 奥特曼最仰赖的人是 Airbnb 联合创始人切斯基,他也是奥特曼最死忠的支持者之一。切斯基有一番著名的理论:创办这家公司的是你,你的直觉就是最好的指南针,任何试图否定这一点的人,都是在对你进行精神控制。你没疯,哪怕手底下的人都说你疯了,你也没疯。
- 保罗·格雷厄姆后来专门写了篇博客,为这种桀骜的姿态命名:“创始人模式”。
- 今年 Anthropic 被五角大楼封杀时,数百名 OpenAI 和谷歌员工联署了一封题为《我们不会被分化》的公开信,声援 Anthropic。奥特曼在内部备忘录中安抚员工,称这场争端是“全行业面临的共同问题”,并坚称 OpenAI 与 Anthropic 守着同样的伦理底线。
- 但事实是,发出备忘录之前,奥特曼当时已与五角大楼秘密谈判了至少两天。就在那个周五早晨,一项价值 500 亿美元的交易公布:OpenAI 的技术将被整合进 AWS,后者正是五角大楼数字基础设施的核心。
- 奥特曼的举动引发了资深员工的辞职,大量用户卸载了 ChatGPT App。在一次员工大会上,奥特曼斥责了那些提出顾虑的员工:“这轮不到你们来评判。”
- 几位与 OpenAI 存在关联的高管一直对奥特曼的领导方式持保留态度,并提议由 Fidji Simo 接班。Simo 曾任 Instacart CEO,目前担任 OpenAI 的 AGI 部署 CEO。一位了解近期内部讨论的知情人士透露,Simo 曾私下表示,她认为奥特曼最终会下台。
- 话说回来,Fidji Simo 也不是什么好人,Instacart 最近刚同意就 Simo 任期内涉嫌欺诈的商业行为支付 6000 万美元罚款。
- 奥特曼将自己立场的摇摆,解释为他适应环境变化所产生的副产品。他辩称,这绝非马斯克等人指控的“长线骗局”,而是一场出于善意、循序渐进的演变。
发布于 上海
