量子位· 十三·· 10 小时前精选AI 评分78
面壁开源 MiniCPM-V 4.7,35B MoE 模型 3G 内存可在 iPhone 断网运行
iPhone断网跑35B多模态!国产开源新模型,只占3G内存
AI 导读
面壁智能与 OpenBMB 开源 MiniCPM-V 4.7,包含 35B-A3B 和 1B 两个版本,其中 35B-A3B 是 MiniCPM-V 系列首个 MoE 模型,约 3G 内存即可在 iOS、安卓设备上流畅运行,iPhone 17 Pro Max 上解码速度每秒 13 个 token 以上。
价值洞察
✦ 价值点
端侧MoE首次做到35B参数仅占3G内存流畅运行,大模型竞争从云端算力转向端侧内存与推理框架的适配能力
⚡ 转化点
硬件与端侧AI创业者应评估将本地多模态能力嵌入现有App的可行性,优先在iOS/安卓端做离线OCR与文档理解场景验证
精选理由
做端侧 AI 应用的团队可以关注 MiniCPM-V 4.7 的 3G 内存 MoE 方案与多芯片适配进度,评估本地部署可行性。