🔥OpenBMB开源新一代端侧多模态大模型 MiniCPM‑V 4.7,主打在 iOS、Android 移动设备本地运行高性能多模态能力。
包含两款不同规格模型:
1. MiniCPM‑V 4.7 35B‑A3B(MoE 混合专家架构):引入全新 LES 前瞻专家调度(Lookahead Expert Scheduling)技术,实现设备端 SOTA 性能;
2. MiniCPM‑V 4.7 1B:轻量稠密版本,部署门槛更低。
核心技术亮点:
1. 综合评测实力:覆盖多模态理解、STEM 推理、OCR、长视频理解共计 34 项基准测试取得极具竞争力成绩。
2. LES 前瞻专家调度加速:预测并预加载 MoE 专家权重,消除推理卡顿;在 iPad Pro M4(16GB)实现5 倍推理加速,输出结果逐字节完全一致;
硬件实测:
iPad Pro M4 可达17+ token/s,
iPhone 17 Pro Max 可达13+ token/s,内存占用仅约 3GB。
3. 高效视觉 Token 压缩:支持 4 倍、16 倍混合视觉 token 压缩;即便开启 16 倍高压缩,35B‑A3B 版本 OCRBench 得分仍达90.4,比 Qwen3.6‑35B‑A3B 高出 5.2 分。
4. 低成本定制能力:新增“自我回放微调”技术,用较低成本完成模型定向能力定制,同时保全模型整体综合性能。
5. 广泛硬件兼容:首发即原生支持苹果、Intel、AMD、Arm、瑞芯微;同时依托 FlagOS 系统栈适配更多硬件平台
Github.com/OpenBMB/MiniCPM-V
Huggingface.co/collections/openbmb/minicpm-v-47
