钛媒体APP
26-06-30 17:11 微博认证:钛媒体TMTpost.com官方微博

【月之暗面黄震昕:Kimi不做重交付,FDE难点不在于模型厂商|附全文】
今年以来,当头部的大模型厂商在围绕模型迭代、产品力、融资、上市等集体抢占时间窗口时,商业化这个命题也被悄然塞进了他们的时间表里。

结合近期Kimi对外的披露,以及与月之暗面Kimi B端负责人黄震昕的交流,可以梳理出这家公司在商业化路径上的一系列战略选择与自我定位。

在过去两年间,Kimi首次大规模应用二阶优化器Muon取代了已成为行业标准10年之久的Adam优化器,推出基于KDA注意力机制的Kimi Linear架构,以及推出注意力残差方案,对计算效率得以大幅提升。

关于Harness,Kimi的判断是:随着基础模型变强,对外部复杂Harness的要求会降低,类似去年Prompt工程热度的下降。因此Kimi内部已开始实践Loop Engineering(循环工程)。

黄震昕认为,随着Token市场价格走高,用户对于高性能的Token需求仍有支付意愿,同时,虽然由于芯片荒和算力成本上升导致成本在涨,但模型厂商也在通过技术优化,将Token的实际成本往下降低。

在定价策略上,Kimi的定位是做高性能模型,而非最便宜的模型。尤其是伴随今年模型价格的集体上涨,背后核心原因仍然是全球算力供应跟不上Token需求增长。为此,Kimi对冲成本压力的方式是通过技术优化,其KV-Cache命中率达到90%以上。

“评估模型价格不能只看输入输出定价,还要看KV-Cache命中率。只要命中,成本就会降很多,能给用户节省成本。” 黄震昕告诉笔者。

作为Kimi B端负责人,黄震昕还着重提及了Kimi在To B业务的布局,包括三层服务体系:模型层提供K2.7 Code、K2.6等基础模型;架构层提供API及Agent SDK;产品层推出企业版,包含Kimi Agent集群、Kimi Code、Kimi Work等工具。黄震昕指出,Kimi不会做太重的交付工作,“模型本身还有大量技术难题待攻克,Kimi能把模型做好已经非常不易。”

对于企业级应用所需的“最后一公里”服务,Kimi选择通过FDE合作伙伴来完成端到端交付,而非自建重服务团队。在行业解决方案层面,Kimi也在尝试与亚马逊云科技等合作构建金融、医疗、制造等垂直场景的方案,前者提供模型能力,而后者主要提供行业经验与客户资源。

以下是黄震昕在亚马逊云科技中国峰会上的演讲全文: http://t.cn/AXoPe3Gq