华尔街见闻·· 3 小时前AI 评分70
面壁智能发布端侧多模态大模型 MiniCPM-V 4.7,35B-A3B 版本用 LES 提速约 5 倍
35B开源模型流畅跑上手机,面壁智能祭出LES提速
AI 导读
面壁智能发布新一代端侧多模态大模型 MiniCPM-V 4.7,包含 35B-A3B 和 1B 两个版本,其中 35B-A3B 采用 MoE 架构,总参数量 350 亿,单次推理仅激活约 30 亿参数。
价值洞察
✦ 价值点
端侧MoE让数百亿参数模型首次能跑在手机内存里,本地AI能力边界被推开,云端依赖开始松动
⚡ 转化点
智能硬件创业者应尽快评估在自家设备上跑35B端侧模型的可行性,抢在竞品前布局离线多模态与本地智能体功能