Emma的衣橱
26-08-18 06:42 微博认证:投资内容创作者

Q: 为了那 2% 的性能提升,投入大量成本引入整个后训练框架值得吗?他们是如何衡量投资回报率(ROI)的?我们知道,虽然闭源模型单次调用更贵,但做后训练在资金、算力投入和后续维护上也是一笔巨大的沉没成本。他们是在成本真正成为痛点时才开始这么做,还是在业务量激增、必须提前做一两年规划时就开始了?

Lin Qiao:这是一个非常好的问题。通常来说,在 AI 领域,你应该把“寻找产品市场契合点(PMF)”和“扩大业务规模”看作两个完全不同的阶段。在过去的 SaaS 时代,只要找到了 PMF,接下来尽力扩张就可以了。但现在情况不同了,有了 PMF 并不意味着你就拥有了一个可持续且能够规模化的业务。

我们通常看到公司采取这样的策略:早期先调用前沿大厂现成的闭源模型,专注于寻找 PMF。因为这样最省心,只需花点钱就能快速验证市场。另一个非常重要的一点是,只有在达到 PMF 之后,你从真实用户交互中收集到的数据才真正具有业务意义。

到了这个时候,你会开始收集大量高质量的生产数据,这就成了你构建专属 AI 能力的“燃料”。我们把这看作是一个强烈的转型信号。一旦你跨过 PMF 阶段,真正开始考虑业务扩张时,你需要思考两件事。

一是如何继续保持竞争优势;二是如何建立一项可持续的业务,确保收入和成本结构处于健康状态。这时候,后训练就成了一个非常有吸引力的解决方案。因为它允许你将团队独特的业务逻辑编码到底层模型中,这是别人无法轻易复制的。

大家都知道,单纯克隆和复制一个 AI 应用非常容易。特别是代码生成应用,只要有一张界面截图,分分钟就能抄出一个一模一样甚至更好的竞品。因此,单纯依赖应用层的“护城河”正变得越来越浅。将反映真实用户互动和深厚行业认知的数据,真正融入到你自己的模型中,才是留住护城河的有效手段。

其次,通过后训练,你可以将推理成本降低 5 到 10 倍。这意味着在相同的预算下,你可以支撑 5 到 10 倍的流量。这会让你的规模化单位经济效益变得好很多,从而避免了“因为 API 调用费太贵而导致越扩张越亏钱”的局面。所以,“护城河”和“经济成本”,是我们看到的促使这些公司决定何时开始后训练的两个最根本原因。

发布于 美国