阿伟的数码日记
26-07-18 23:04 微博认证:数码博主

2.8万亿参数,896个专家但每次推理只激活16个,Kimi K3用不到2%的激活比例换来了全球最大的开源模型规模。前端代码竞技场直接压过Claude Fable 5登顶,这证明稀疏激活路线不是妥协,而是目前兼顾容量和效率更优的工程解。当模型大到一定程度,架构设计比单纯堆参数更重要。 #KimiK3发布2.8万亿参数模型#

发布于 江苏