tombkeeper
26-11-21 15:27 微博认证:2025微博新锐新知博主 科技博主

刚发布的 Inkling-2-Mini 有点意思,
1、总参数 26.4B,激活参数 3.4B;
2、性能和 Qwen3.8-27B 差不多;
3、原生采用 NVFP4 和 MXFP8 混合精度,权重文件 20G;
4、支持多模态。

也就是说,不能跑 Qwen3.8-27B 的硬件也能跑 Inkling-2-Mini,能跑 Qwen3.8-27B 的硬件跑 Inkling-2-Mini 更快。 ​

发布于 北京