面壁智能开源 MiniCPM-V 4.7：35B MoE 端侧跑通，约 3GB 内存即可运行

35B 参数、约 3GB 内存：端侧 MoE 第一次真正跑通

10 月 13 日，面壁智能正式发布新一代端侧多模态大模型 MiniCPM-V 4.7，包含 35B-A3B 与 1B 两个版本。其中 35B-A3B 采用 MoE（混合专家）架构，总参数 350 亿、每次推理只激活 30 亿。官方称这是首个可以在端侧无损流畅运行的开源 MoE 模型：仅约 3GB 内存即可运行，iPad Pro 上实测解码速度 15+ token/s，iPhone 17 Pro Max 上也能达到 13+ token/s。

这个数字的意义在于对比。过去要把一个 350 亿参数的模型塞进手机，通行做法是把权重压到 4bit 甚至 2bit，用精度换空间，输出质量随之掉档。MiniCPM-V 4.7 走的是保精度、改调度的路线，把瓶颈从内存容量转移到数据搬运效率上。

关键在 LES：让专家加载与计算并行

MoE 的结构特点是模型内部有大量专家，每次回答只调用其中几位。好处是算力开销低，代价是内存压力，因为所有专家的权重加起来仍然是 350 亿参数那一整套体量。传统做法是用到哪位专家就临时搬进运存，搬完再算，一搬一停就会卡顿。

面壁智能给出的解法是自研的 LES（前瞻专家调度）技术：系统提前预测接下来要用到哪些专家，趁当前计算还在进行时就把它们预加载好，让加载与计算同步推进。官方用接力赛打比方，接棒人提前起跑、边跑边接棒，棒子到手时已经是全速。据面壁介绍，这是目前业内独家的开源方案。另一个工程细节是权重分层存放：35B 完整权重约 65.6GiB，大部分专家放在 SSD 上按需读入，iPad Pro M4 上平均提速约 5 倍且输出不变。

MoE 的算力账好算，内存账难算。谁能把专家调度的空转时间压到接近零，谁就能把大参数模型塞进手机。

发布即多平台适配，还开源了微调方案

生态适配是这次发布中更实用的一部分。MiniCPM-V 4.7 发布当天即支持瑞芯微、NVIDIA、Intel、Apple 等主流芯片平台，同时兼容 iOS、安卓与鸿蒙系统，并提供开源端侧适配代码与主流推理框架。1B 版本主打端侧极致效率，用来把旗舰级能力拉到更多低算力设备上。官方同步开源了 Self-Replay Fine-Tuning（SRFT）微调方案，帮助开发者在端侧低成本扩展模型能力、减少灾难性遗忘。

评测方面，官方称 35B-A3B 在 Instruct 模式下以更短的推理时间取得了高于 Qwen3.6 35B-A3B 的综合得分；1B 版本相比 MiniCPM-V 4.6 继续提升，在综合得分和推理效率上均领先 Qwen3.5 0.8B。截至发布，面壁智能联合 OpenBMB 开源社区推出的 MiniCPM 系列全球累计下载量已突破 6000 万次，覆盖文本、视觉、语音全模态。

需要留意的是，端侧解码速度高度依赖芯片与内存带宽，15+ token/s 是特定机型上的实测值，不能直接外推到所有设备。真正落地时，长上下文与多模态输入的显存占用仍需单独实测。