MiniCPM-V-4.7-35B-A3B

MiniCPM-V-4.7-35B-A3B 是什么

MiniCPM-V-4.7-35B-A3B 是 OpenBMB 发布的开源多模态大模型，支持图像、视频等多模态理解，参数规模为 35B-A3B。

主要功能

• 支持图像、视频等多模态理解
• 采用 35B-A3B MoE 架构，是 MiniCPM-V 系列首个 MoE 模型
• 集成 Lookahead Expert Scheduling (LES) 技术，实现无损的设备端流畅推理
• 使用细粒度逐层量化，支持在 iPhone 上以 3GB 内存运行
• 基于 intra-ViT early compression 技术，在视觉编码器内早期压缩视觉 token

适合谁

适合需要在设备端运行多模态大模型的开发者、研究者和终端用户，尤其适用于资源受限的移动设备场景。

怎么开始用

1. 访问 Hugging Face 页面 https://huggingface.co/openbmb/MiniCPM-V-4.7-35B-A3B 下载模型权重
2. 参考模型卡中的 Usage 部分进行集成和推理
3. 结合 DSpark 进行设备端部署和推理

内容依据工具官网 / README / 发布页公开描述整理，未核实价格与用户规模，请以官网为准。 部分段落由 AI 辅助生成。