爱可可-爱生活
26-05-31 14:55 微博认证:AI博主 2025微博新锐新知博主

【别再傻傻训练微调了,AI提效的终极解法是“技能蒸馏”】

很多人以为要让 AI 懂自己的工作流,必须去微调大模型或者搞复杂的检索增强生成。硅谷投资人托马斯揭示了一个极具启发性的新路径:技能蒸馏。

核心逻辑非常简单:让云端最聪明的闭源大模型(如 GPT-5)把你的工作方法论写成极其精准的、步骤化的 Markdown 技能文件,并自动生成测试集进行自我迭代。然后,把这些写好的“操作手册”直接丢给本地运行的开源小模型(如 Qwen 或 Gemma)去严格执行。

这打破了行业迷思。小模型不需要真正“理解”复杂的商业逻辑,它只需要扮演一个完美的“执行者”,照着手册按部就班地调用工具。知识的传递不再通过调整模型权重,而是通过结构化的文本。

这种架构下,云端大模型充当“总设计师”负责规划,本地小模型充当“流水线工人”负责低成本、高隐私地干脏活累活。这才是未来个人效率代理的正确打开方式。

tomtunguz.com/the-pi-agent-skill-distillation

发布于 北京