1950年，一位麻省理工学院的数学家写了一本面向大众的小册子，语言通俗易懂。他并非在预测未来，而是在发出警告。他指出，机器最终会取代人类的工作，为了追求错误的目标而不择手段，并悄无声息地将人类变成他们无法掌控的系统中的组件。
几乎没人听他的。75年后，他发出的每一个警告都应验了。
他的名字是诺伯特·维纳。这本书名为《人类对人类的利用》/《人有人的用处》。
教科书式的AI伦理学著作声称，该领域始于2010年代，当时斯图尔特·罗素、尼克·博斯特罗姆和一小群研究人员开始撰写关于智能机器危险性的文章。这种说法是错误的。第一本严肃的AI伦理学著作出版于1950年，作者是一位发明了人工智能最终赖以建立的科学原理的人，他对未来发展趋势的洞察力之敏锐，在接下来的70年里无人能及。
这是一个几乎没人会告诉你的故事。
诺伯特·维纳是个神童。他14岁就从哈佛大学毕业，17岁获得数学博士学位，不到30岁就成为麻省理工学院的教授。二战期间，他被派去研究防空火控系统。问题看似简单，实则不可能：如何瞄准一架高速飞行的飞机，而这架飞机在炮弹到达时早已不在原地？
他的答案催生了一门新的科学。他称之为控制论，这个词源于希腊语，意为“舵手”。1948年，他出版了一本同名技术著作。控制论是现代控制理论、机器人学以及几乎所有人工智能发展的基础。这本书内容艰深，大多数读者都难以理解其中的数学公式。然而，书中蕴含的思想太过重要，不应被束缚在公式之中。
于是，1950年，维纳坐下来写了第二本书，目标读者是普通人。书中没有公式，没有术语，只有实际后果。他将这本书命名为《人类的用途》。全书仅有200页，却是迄今为止最具前瞻性的技术文献之一。
他首先发出警告的是自动化。
他在1950年预言，机器将在所有行业取代人类的工作。不仅仅是工厂工作，也不仅仅是体力劳动。任何可以简化为流程的任务最终都会被自动化。他特别指出，白领工作将不再安全。记账、翻译、制图、计算——任何需要人类按既定流程工作并领取报酬的工作，最终都将由机器以极低的成本完成。
他并非在庆祝，而是在发出警告。他指出，这将带来巨大的社会后果，整个行业将会崩溃，人类劳动的价值本身也会被贬低，尤其是在那些人类几个世纪以来都发挥着重要作用的工作中。他写下这些话时，距离 ChatGPT 让所有白领专业人士反复核对自己的职位描述还有75年的时间。
他警告的第二件事是对齐问题。他当时并没有这样称呼它，因为还没有这个说法。但他对这个问题的描述非常准确。
他说，机器会根据你设定的目标进行优化，而不是根据你的本意。它们只会根据你写的内容进行优化down.如果目标描述不清，机器就会以惊人的效率追求目标的字面意思，结果将是建造者始料未及的灾难。
他借用了W·W·雅各布斯恐怖故事中“神奇猴爪”的比喻。一位悲痛欲绝的父亲希望死去的儿子复活。猴爪实现了他的愿望。一个东西从坟墓里爬了出来，严格来说，那就是他的儿子。愿望如约实现。结果却是地狱。
75年后，现代人工智能安全研究人员几乎沿用了相同的比喻。他们称之为规范博弈、奖励破解、台面优化。名称虽新，但维纳在1950年描述的问题依然存在。
他警告的第三件事是人类自主性的丧失。
他预言，人类会逐渐将决策权拱手让给他们并不理解的系统。这并非因为系统会强迫他们这样做，而是因为系统比人类的判断更便捷、更准确、更有利可图。人们会将导航、阅读、人际关系，最终甚至思考都交给那些由公司设计的优化流程，而这些公司的利益与用户的利益并不一致。
他在1950年说过的一句话，我至今记忆犹新。他说，一个社会越是高效地将决策权委托给机器，它自身决策的能力就越弱。这种衰退是渐进的。等到人们注意到这一点时，选择的能力已经消失殆尽，剩下的只是人们执行由他们未曾参与构建的系统为他们做出的决策，而这些决策服务于他们从未被征询过意见的目标。
看看现代社交媒体信息流、推荐算法、约会应用程序、导航系统、新闻聚合器，你就会发现他所描述的正是这些。
他警告的第四件事，当时最容易被忽视，而现在却最令人不安。
他警告说，专制政权将利用这项新的计算技术，以前所未有的规模追踪、操纵和控制民众。这并非遥不可及的未来，而是即将到来。他指出，控制论在导弹制导方面的应用，也将被用于引导社会。那些关于优化什么、监视谁以及如何将信息反馈给系统的细微决策，最终会累积成一种无需武力就能运作的软控制。人们会按照系统的意愿行事，因为系统本身就会塑造他们的意愿。
他在现代监控国家出现之前75年就预见到了它们的雏形。
2026 年读这本书最奇怪的是，你会发现这些问题中很少有人认真对待。
维纳并非反对科技。他曾亲身参与科技的研发。他也不怀念机器出现之前的时代。他警告说，任何足以增强人类能力的工具，也足以放大人类的愚蠢、贪婪和冷漠。危险不在于机器本身，而在于人类机构不愿追问：这些机器究竟是为谁而造的？
他于1964年去世。他没能亲眼见证自己大部分预言的实现。他从未使用过个人电脑。他从未点击过超链接。他从未见过现代的推荐算法。
1950 年，他用浅显易懂的英语写下了，当他帮助发明的技术被那些没有读过他的警告的人应用时，世界将会变成什么样子。
这本书大约200页，仍在印刷发行。二手书到处都是，价格不到十美元。读起来像是科幻小说，作者似乎已经知道故事的结局。
第一本严肃探讨人工智能伦理的著作出版于人工智能尚未出现之时，那时根本谈不上什么伦理问题。如今从事人工智能研究的人几乎都没读过这本书。
警告内容依旧相同。作者已去世60年。任何人只要点击一下鼠标，就能读到这本书。
