#月之暗面回应Kimi K3爆火#黄震昕明确否认“K3是蒸馏小模型”的猜测,表示性能跃升来自底层原创架构创新,并非对现有模型蒸馏复刻。
支撑K3的三项自研技术包括:
Moon Clip:全新二阶优化器,首次应用于大模型训练,让20T训练数据达到40T训练效果,训练成本与算力功耗减半。 http://t.cn/AX9tud1r
发布于 福建
#月之暗面回应Kimi K3爆火#黄震昕明确否认“K3是蒸馏小模型”的猜测,表示性能跃升来自底层原创架构创新,并非对现有模型蒸馏复刻。
支撑K3的三项自研技术包括:
Moon Clip:全新二阶优化器,首次应用于大模型训练,让20T训练数据达到40T训练效果,训练成本与算力功耗减半。 http://t.cn/AX9tud1r