图灵之误：关于AI的两个最重要假设错了？

近日，著名计算机科学家彼得·J·丹宁，在其新书《图灵的失误：挣脱非智能机器的枷锁》中发出警告——艾伦·图灵在1950年奠定的两大核心假设，可能在过去四分之三个世纪里将人工智能研究引向了根本性的错误方向。丹宁认为，图灵提出的“智能可脱离物理实体而存在、能在计算机软件中重现”以及“机器可通过模仿人类对话展现智能”这两个主张，塑造了AI研究与发展的全部轨迹，而我们对这些假设的盲目默许，正是今日AI困境的根源。

丹宁论证的核心武器是“隐性知识”概念——人类拥有大量无法用语言表达、更无法以计算机可处理形式呈现的知识。他明确指出，机器学习永远无法捕捉五类关键的隐性知识——常识、日常互动能力、情感与感知、实践操作技能，以及内嵌于文化中的社会历史知识。
长达40年的Cyc项目试图将常识整理成数据库，收录了约2500万条知识条目，却仍远不足以构成真正的专家系统所需的常识背景。丹宁一针见血地指出：“使人们成为专家的许多知识都无法被表述为命题。”而实践技能的鸿沟更为巨大，一位技艺精湛的小提琴家能奏出美妙乐曲，却无法向学徒描述如何做到这一点——即使机器人能观察模仿，由于缺乏生物躯体，它永远无法领会演奏时的心境，更遑论听众的感受。直觉、本能、想象力和自发创造力，这些人类智能的瑰宝，至今仍超乎机器的能力范围。

丹宁将这一切限制归结为“表征问题”。计算机只能处理以物理形式编码的数据，然而隐性知识根本不适用于这一框架。“每一个词语背后都蕴藏着一座深邃的默会知识之井，正是它赋予了词语以意义，”丹宁强调，“词语不过是意义的符号化表征，而非意义本身。”大型语言模型如ChatGPT仅仅在操纵文字，它们无法真正理解自己所表达内容的含义。由于科学家迄今仍无法阐明人类的隐性知识如何运作，也就无法将其转化为机器可理解的形式——“我们只知它内嵌于身体之中，却对究竟该观察和测量哪些指标才能揭示它毫无头绪。”

智力还深深依赖于语境与文化。语境使人能够识别讽刺、幽默、真诚与情感，判断何时该委婉得体、何时该开个玩笑。丹宁揭示了一个分形般的模式：“当你探究当前语境中的某个假设源自何处时，会发现它奠基于先前语境中的先前对话，无穷无尽。”而文化涵盖价值观、规范、判断、历史、社群乃至权力关系，通过构建更大规模的神经网络根本无法习得这些扎根于人类身体与经验中的知识。

丹宁最终得出结论——人类与AI系统将形成彼此都无法理解的隐性知识，犹如身处不可逾越鸿沟两侧的异乡人。这一鸿沟引发了严重的安全担忧——如果机器无法理解人类意图背后的言外之意，要将先进AI系统与人类目标可靠对齐或许将变得不可能。机器智能虽不及人类通用智能水平，却仍足以造成严重威胁，“它的思维方式和解决问题的方式对我们而言显得异乎寻常，我们尚不清楚如何与这些机器安全共处。”
丹宁呼吁，我们不应效仿机器的思维方式，更不应沦为机器的附庸，而是要重申自身的人性，阐明何以我们有别于机器，并颂扬这些差异——这或许是人类在AI迷雾中最后的清醒防线。
#热门微博# #科学新闻# #人工智能# #哈勃观察员[超话]#