刚发布的 Inkling-2-Mini 有点意思,
1、总参数 26.4B,激活参数 3.4B;
2、性能和 Qwen3.8-27B 差不多;
3、原生采用 NVFP4 和 MXFP8 混合精度,权重文件 20G;
4、支持多模态。
也就是说,不能跑 Qwen3.8-27B 的硬件也能跑 Inkling-2-Mini,能跑 Qwen3.8-27B 的硬件跑 Inkling-2-Mini 更快。
发布于 北京
刚发布的 Inkling-2-Mini 有点意思,
1、总参数 26.4B,激活参数 3.4B;
2、性能和 Qwen3.8-27B 差不多;
3、原生采用 NVFP4 和 MXFP8 混合精度,权重文件 20G;
4、支持多模态。
也就是说,不能跑 Qwen3.8-27B 的硬件也能跑 Inkling-2-Mini,能跑 Qwen3.8-27B 的硬件跑 Inkling-2-Mini 更快。