#KimiK3发布#
WAIC开幕前夕,月之暗面扔了一颗重磅炸弹。
Kimi K3,2.8万亿参数,100万token上下文。目前全球参数最大的开源模型,也是首个超2万亿级别的开源模型。
架构上,K3没有沿用MoE架构,而是自研了Kimi Delta Attention(KDA)混合线性注意力机制。在百万token上下文场景下,可实现最高6.3倍的解码加速。原生支持视觉理解,完整模型权重将于7月27日前开源。
能力上,面向长程编程、知识工作、深度研究、多模态理解等复杂任务场景优化。基准测试显示,其综合智能水平仅次于Claude Fable 5和GPT-5.6 Sol。但在Frontend Code Arena编程榜单上,K3以1679分直接登顶,超越Claude Fable 5。在内部长程知识工作评测中,K3 Elo达到1547,比K2.6高出732分。
从K2.6的Frontend Code Arena第18名,到K3直接登顶——这个跳跃幅度,说明架构层面的变化确实带来了质变。
上一次让人这么意外的开源发布,还是DeepSeek V3。这次轮到Kimi了。
发布于 广东
