【别再傻傻训练微调了,AI提效的终极解法是“技能蒸馏”】
很多人以为要让 AI 懂自己的工作流,必须去微调大模型或者搞复杂的检索增强生成。硅谷投资人托马斯揭示了一个极具启发性的新路径:技能蒸馏。
核心逻辑非常简单:让云端最聪明的闭源大模型(如 GPT-5)把你的工作方法论写成极其精准的、步骤化的 Markdown 技能文件,并自动生成测试集进行自我迭代。然后,把这些写好的“操作手册”直接丢给本地运行的开源小模型(如 Qwen 或 Gemma)去严格执行。
这打破了行业迷思。小模型不需要真正“理解”复杂的商业逻辑,它只需要扮演一个完美的“执行者”,照着手册按部就班地调用工具。知识的传递不再通过调整模型权重,而是通过结构化的文本。
这种架构下,云端大模型充当“总设计师”负责规划,本地小模型充当“流水线工人”负责低成本、高隐私地干脏活累活。这才是未来个人效率代理的正确打开方式。
tomtunguz.com/the-pi-agent-skill-distillation
发布于 北京
