#接下来的三年可能是我最后工作的几年#
Avital Balwit 是Anthropic（开发了Claude3，唯一在Lmsys模型竞技场击败过ChatGPT-4的模型）的首席幕僚（Chief of Staff ）。她在5月中发表了一篇长篇专栏文章，题为《My Last Five Years of Work，我最后工作的五年》，展望了AGI（人工通用智能）实现后对个人和社会的改变。
读完后，我的感觉是，可以不同意她的看法（无论对AGI是否实现，还是应对的方式），但是这是一个深度思考（如果人类不需要工作了，那么其精神意义将如何体现？）。

全文比较长，我只贴了开篇和结尾部分，有兴趣可以看原文：
http://t.cn/A6HRMq1z

***
《我最后工作的五年》

我今年 25 岁。接下来的三年可能是我工作的最后几年。我并没有生病，也不是要成为全职妈妈，也没有那么幸运地财务状况良好以至于可以自愿退休。我站在一个技术发展的边缘，如果它到来的话，可能会终结我所了解的就业形式。

我在一家前沿的人工智能公司工作。随着我们模型的每一次迭代，我面对的是比以往更有能力和更通用的东西。在这个阶段，它能够在各种主题上能够胜任地生成有说服力的内容。它能够相当不错地总结和分析文本。作为曾经以自由撰稿人身份赚钱，并以自己能够快速撰写大量内容的能力自豪的人，这种能力就像从冰冻池塘中切割冰块一样，可以说已经过时，我发现很难不注意到这些进步。自由撰稿一直是一个供过于求的技能集，语言模型的引入进一步加剧了竞争。

知识工作者对语言模型的普遍反应是否认。他们抓住这些模型仍然存在困难的地方数量不断减少的事实，而没有注意到它们已经达到或超过人类水平的任务范围不断扩大。许多人会指出人工智能系统尚未写出获奖书籍，更不用说申请专利发明了。但我们大多数人也不会做这些事情。

在大多数任务上，经济和政治上相关的比较并不是语言模型是否比最优秀的人类更好，而是它们是否比本来会执行该任务的人类更好。这使得对 AI 系统尚未编写长序列或独立完成更基本的数学运算的反对意见更为相关。但这些系统将继续改进所有认知任务。人工智能领域的共同目标是创建一个可以做任何事情的系统。我预计我们很快就会实现这一目标。如果我是对的，那么我们应该如何思考工作即将过时的问题？

值得一提的是，即使在今天，工作远非参与社会的唯一途径。然而，工作已被证明是转移财富和资源的最佳方式；它提供个人商品，如社交联系、地位和意义；并提供社会商品，如政治稳定。

鉴此，我们应该以悲伤、恐惧、喜悦还是希望来面对其丧失的可能性呢？人工通用智能（AGI）的整体经济影响难以预测，我将重点关注的问题是人们在没有工作的情况下会感觉到怎样——他们是否会感到快乐，或者能够感到快乐。显然还有其他重要问题，比如人们如何满足他们的物质需求。许多人已经研究过这个问题，但至今还没有任何政府正式采纳作为应对这种情况的官方政策的最终答案。我将采取一种可能会让人觉得有些欺骗的做法。我将继续假设人们可以通过普遍基本收入或其他转移支付来满足他们的财务需求，并且将专注于一个问题，即人们是否可以并且会感到快乐——或者至少和现在一样快乐——在没有工作的情况下。

……

这个社会完全有能力满足人民的物质需求，但仍然必须面对他们的“精神”需求，即感觉自己有存在的理由。在这种情况下，人们通过研究和干预其他银河物种来满足这种需求。人们不禁要想，当这项工作完成时会发生什么——所有发现并提升的物种。对于我们来说，我们是否也会转向星际（星辰大海）？这并不疯狂。我想问题实际上是：即使我们制造的机器能够比我们更好地做到这一点，就像它们在其他方面也能做得更好一样，我们是否会转向星际？

你是否会做一些明显比其他人差的事情，纯粹是为了做它的价值，无论是快乐还是意义？我会。我跳芭蕾舞，尽管我知道在我二十多岁的时候成为一名一流的芭蕾舞者已经遥不可及，但像那样运动我的身体给我带来了快乐。我们可以将这视为做一项其他人做得更好的活动的享乐原因。

尽管受过训练的治疗师可能能够更好地辅导我的朋友或家人度过困境，但我仍然这样做，因为我做这件事有价值。我们可以将这视为做一些其他人做得更好的事情的关系原因。我写作是因为有时我喜欢这样做，有时我认为这会让我变得更好。我知道其他人做得更好，但我不在乎——至少不是所有时候。这其中的原因部分是享乐的，部分是美德或道德的。

一位著名的人工智能研究者曾告诉我，他正在通过参加自己并不擅长的活动来为后 AGI 做准备：柔术、冲浪等等，并且享受做事的过程，即使没有达到卓越。这就是我们如何为未来做准备的方式，未来我们将不再是必须做某事，而是出于喜悦，我们可能不再是最擅长的，但仍需选择如何度过我们的日子。

我们也不需要选择如何独自填充时间：在我们都失业的情况下，而这是我们的主要担忧之一，这意味着我们建立了相对对齐的人工通用智能。出于同样的原因，我期望我们能够达到 AGI，我也期望它能够超越这一点，达到我们拥有“超人类”系统的地步。出于同样的原因，这些系统将在任何方面都有所帮助，我们应该期望这些系统能够帮助解决它们所造成的问题。如果我们相信不快乐或失去目标感的解决方案存在，并且这些解决方案可以通过智能找到，那么我们应该期望这些系统能够帮助我们找到它们。这可能听起来自私或是一厢情愿，并且无疑会让许多人感到不满。但是，我相信如果我们真的认为这些系统能够取代我们，那么就没有理由认为它们也不能帮助我们寻找意义。