爱可可-爱生活 26-02-12 06:45
微博认证:AI博主 2025微博新锐新知博主

【凝视深渊之后,AI研究员为何转身去读哲学】

Anthropic联合创始人Jack Clark写过一条广为流传的推文:普通公司的人离职时说“期待新篇章”,AI公司的人离职时说“我凝视了无尽的黑夜,那里有某种形状在涌动。我们必须善待彼此。我决定去研究哲学。”

这条推文写于2025年9月,最近因为Anthropic AI负责人离职去英国写诗而再度刷屏。一个刚拿到博士学位两年的人,放弃了可能是全球最前沿的技术岗位,选择“变得隐形”。这种选择本身就是一种信号。

围绕这条推文的讨论迅速分裂成几个层面,每一层都值得细看。

第一层是钱。有人说这不过是财务自由后的矫情。Anthropic的年薪在50万到85万美元之间,加上股权,一个资深研究员在IPO后身价轻松过千万。英伟达80%的员工已经是百万富翁,其中一半净资产超过2500万美元。赚够了钱去“寻找自我”,听起来确实没那么悲壮。

但如果只看到钱,就错过了更深的东西。

第二层是认知冲击。Clark自己后来解释,这条推文是一个隐喻,关于前沿AI中不断涌现的“涌现性”,那些在潜在空间中浮现的模式和阴影,没有人刻意训练它们,它们自己长了出来。当你每天的工作是对齐一个你无法完全理解的系统,你看到的就不再是代码,而是某种非人类的思维结构。这种体验带来的情绪,与其说是恐惧,不如说是敬畏。你在镜子里看到了一张不属于任何人的脸。

有人精准地概括了这种感受:当你意识到二元论和人类例外主义站不住脚,大脑并非魔法,它可以在其他基质上被复制,那一刻你的世界观会发生不可逆的坍塌。

第三层是经济秩序的动摇。讨论中最耐人寻味的一条线索来自一位用户的推演:你把几百万存进信托基金,靠每年4%到5%的回报安度余生,听起来很美。但如果你亲手建造的东西可能摧毁支撑这个回报率的整个金融引擎呢?有人接话说,我们讨论的可能不是泡沫破裂,而是市场经济体系本身的终结。当35%到40%的人口失业,税基消失,国家债务将压垮一切。债务在我们要去的地方毫无意义,而储蓄本质上也是债务。

这让人想起一个有趣的错位:我们还在用晚期资本主义的框架思考问题,而身处技术前沿的人已经在思考后资本主义的早期形态。这就是为什么他们对烧钱、负债、市场波动表现得如此淡然。他们看到的时间尺度和我们完全不同。

第四层是伦理困境。有人拿人类克隆做类比:人类面对未解决的伦理问题时,选择了停下来,先想清楚再动手。但AI领域做不到这一点,因为市场激励不允许。如果所有能思考的人都选择先思考,那所有的建设就只剩下那些不思考的人在做。更何况,开源模型、公开论文、消费级GPU的组合意味着,即使大公司停下,某个车库里的聪明人也可能偶然触发自我改进的循环。潘多拉的盒子没有回收机制。

技术加速的现实也在印证这种紧迫感。2025年底以来,Claude Code配合Opus系列模型的能力跃升,让“氛围编程”这个词都已经过时了。人们现在做的是编排智能体,让它们自主完成越来越长链条的工作。能力曲线在上升,成本曲线在下降,两条线的交叉点正在快速逼近。

所以,当一个AI研究员说“我要去研究哲学”或“我要去写诗”的时候,这句话的重量远超字面意思。他们见过了某种东西,那种东西让技术问题变成了存在问题。最讽刺的地方在于:最有能力做点什么的人,选择了离开;而留下来继续建造的人,未必在思考该不该建造。

也许AI最深刻的涌现性,是它迫使创造者重新审视“人何以为人”这个古老命题。当机器开始展现出你无法用工程语言解释的行为,工程师能做的最诚实的事,或许就是承认自己的工具箱不够用了。

reddit.com/r/singularity/comments/1r1lmcy/banger_tweet_more_relevant_than_ever

发布于 北京