爱真趣酱早睡版
26-07-05 23:30

Andrejs Karpathy围绕 AI Agent的发展历程、当前的技术路径、产品化挑战以及未来架构的设计灵感 展开了深入探讨。他认为如今大语言模型(LLM)的成熟为 Agent 带来了全新可能。然而,将 Agent 从“酷炫的 Demo”转化为“可靠的产品”仍需长期投入,且需要从人类神经科学(认知结构)中汲取灵感。
1. 2016年 OpenAI 的 Agent 探索过于超前
• 回顾历史: 2016 年左右,OpenAI 曾尝试利用强化学习(RL)来构建能够操作电脑、点击网页并完成特定任务的智能体,该项目被称为 “World of Bits”。
• 失败原因: 当时的技术栈(Tech Stack)尚未成熟。当时的模式极度依赖强化学习在环境中进行盲目的探索,如同“瞎碰”一样去撞大运、赢取奖励(Rewards),因此最终的实际效果非常有限。
2. 转向大语言模型是当时正确的历史选择
• 路径验证: 历史证明,当时果断搁置 Agent 项目、调整战略重心去全力构建大语言模型(LLM)是完全正确的。
• 今昔对比: 如今 Agent 概念再度火爆,并不是简单的历史重复,而是因为其底座工具彻底变了——现在不再需要靠强化学习去硬磨(Grinding),而是将语言模型(作为大脑)、工具调用(Tool Calling)、记忆能力(Memory)以及规划能力(Planning)有机结合在一起。
3. Agent 属于“Demo 简单,做成产品极难”的领域
• 警惕幻觉: Karpathy 提醒大家,千万不要被市面上琳琅满目的 Demo 晃了眼。
• 行业类比: 这与自动驾驶(Self-driving cars)和虚拟现实(VR)的发展轨迹如出一辙——它们都属于“极易想象、极易做出生动 Demo,但要真正落地为可靠产品可能需要耗费十年之功”的领域。因此,Agent 是一个适合长期主义投资的赛道,而非短期内就能实现幻想的提款机。
4. Agent 的未来设计应借鉴人类认知结构
• 神经科学启示: 他建议研发人员再次向神经科学(Neuroscience)寻求灵感。一个真正的智能体,大语言模型仅仅是其中一个碎片,它还需要一整套完整的认知工具链:
o 海马体(Hippocampus): 对应智能体的记忆与检索(Memory & Retrieval)系统。
o 前额叶皮层(Prefrontal Cortex): 对应智能体的规划与反思(Planning & Reflection)能力。
o 丘脑/基底核(Thalamus/Basal Ganglia): 对应多模态/多模块之间的协同调度(Multi-module coordination)。
🚀 寄语创业者与黑客
Karpathy 给予了当前在 Agent 领域摸爬滚打的创业者和黑客们极大的鼓励。他指出:
你们现在可能正真正站在技术能力的最前沿(Edge of capabilities)。虽然大厂和顶尖实验室已经把大模型的预训练(Pre-training)玩得非常透彻、成熟了,但在 Agent(智能体应用与架构) 这一块,一切都还非常新,依然存在着大量尚未被系统性探索过的新领域。

发布于 北京