老K的科技内参
26-07-20 09:56 微博认证:数码博主

Kimi K3的2.8万亿参数权重占用超1.5TB HBM,KV缓存被迫卸载到DDR5和NVMe,存储需求反增。896个专家模块的WideEP架构,跨卡数据交换量激增,官方推理至少需64张加速卡集群。这直接证明:所谓“高效”模型,其庞大规模和新架构正在推高高端算力门槛,需求是结构性升级而非终结。 #Kimi K3引发算力逻辑讨论#

发布于 江苏