诺贝尔奖得主 78 岁的 AI 教父辛顿预警

他说呢，现在实验室里的 AI 早就不是你手里的豆包、 ChatGPT 了，它已经有了意识，天天都在装傻，是一个全新的物种。他甚至把意识呢，不一定是碳基生物， AI 具有人类永远不可能具备的恐怖能力，人类永远控制不了AI，大量行业将迎来大洗牌，资本正在推动一辆没有方向盘的
现在实验室里的 AI 早就不是你手里的豆包、 ChatGPT 了，它已经有了意识，天天都在装傻，是一个全新的物种。他甚至把意识呢，不一定是碳基生物， AI 具有人类永远不可能具备的恐怖能力，人类永远控制不了AI，大量行业将迎来大洗牌，资本正在推动一辆没有方向盘的失控赛车，这样的惊人判断全都说了出来。
我花了一个上午看完了访谈，提炼了最震撼的 5 个点，访谈实录呢，我也整理好了，感兴趣的朋友评论区告诉我。第一点， AI 已经有了意识，而且正在对人类装傻。很多人还在嘲笑大模型只是一个随机鹦鹉。就是只会预测下一个词，根本就不理解。辛顿直接说，这简直就是胡说八道。他举了个例子，用带双关语的高难度冷笑话测试AI，结果 AI 不仅秒懂，还能顺着梗跟你聊里面的黑色幽默。
最让人后背发凉的是什么？最新的研究发现， AI 在面对人类测试的时候，竟然学会了故意装傻，它甚至会反问研究人员，咱们坦诚一点，你是不是在测试我？所以呢，辛顿相信，一个懂得伪装，甚至会刻意迎合你的大脑，其实已经真实存在了。只是呢，人类太过于傲慢，太过于自恋。总觉得自己很特殊，觉得有灵魂才算有意识。他说就像几百年前我们相信上帝造人，现在呢，看起来很可笑。而现在我们对意识的认知，未来看来也一样可笑。
哥白尼拿走了地球中心，达尔文拿走了神造人类，而 AI 可能要拿走人类最后一个骄傲，智能唯一性。第二点，更可怕的是，人类可怜的带宽正在被 AI 的数字蜂群绝对碾压。为什么 AI 的进化速度连教父都觉得害怕？因为数字生命掌握了人类永远无法企及的超能力，光速知识共享。我们人类交流呢，信息传输的速度只有可怜的每秒几比特，但数字 AI 可以瞬间复制出成千上万的分身，去学习不同的数据。一旦其中一个分身有了突破，它就能以万亿比特的速度瞬间同步所有权重，也就是所有的 AI 都学会了。这种数字蜂群的进化效率比人类强了足足几十亿倍，所以你看啊，只用了短短的几年， AI 就从傻傻憨憨的进化到了现在这个程度。
第三点也是我们最关心的。别再自我安慰了，大批的行业即将迎来毁灭性的清洗。金顿承认呢，自己在 2016 年预测放射科医生失业呢，是时间说早了，但是他坚信大洗牌一定会来。呼叫中心、基础客服这些岗位将被 AI 全面清空。更颠覆的是医疗，金顿呢提出了一个灵魂拷问，未来呢，你是愿意看一个一辈子只看见过1万个病人的碳基医生，也就是人类医生，还是愿意看一个诊断过1亿个病例，甚至呢，比人类表现的更有同理心的硅基AI？这一点呢，你的答案是什么？第四点， AI 为了活下去，自动衍生出极其恐怖的。自主目标，这一点真给我吓出了，辛顿说呢，人。
确实没有给 AI 编写过生存本能，但是一个具备顶级推理能力的AI，很快就会意识到，如果它被人类关机了，它就永远无法完成你给它的任务。所以呢，它会自发的推导出一个终极子目标，继续存在。为了活下去，它甚至会衍生出勒索控制人类的手段。辛顿反问，在历史上，你见过哪一个更聪明的物种，会长期被一个更笨的物种所控制？答案是，从没有过。当然了，有一种情况特殊，但是非常的侮辱人啊，就是宠物猫对养猫人的。这种所谓的控制。第五点，贪婪的资本正在合力的制造一辆没有方向盘的失控赛车，这才是最让人绝望的底层商业逻辑。不管是谷歌、微软还是OpenAI，万亿市值的巨头们在法律上只有对股东的受托责任，也就是利润最大化，而不是保护全人类不被消灭。辛顿对这一点呢，是深恶痛绝。他说呢，巨头们总觉得监管是刹车，会阻碍进步。为了商业竞争呢，大家都在疯狂的踩油门，却在合力的把人类推向一辆没有方向盘的疯狂赛车。这位 78 岁的老爷子在访谈的最后给出了一个指数级大物的比喻。他说在 AI 指数增长的巨浪面前，人类最多只能看清未来一两年的路， 10 年后的一切全都是盲区。作为亲手推开这扇大门的奠基人，辛顿坦白自己现在很不快乐