魔搭ModelScope社区重磅宣布，新一代多模态模型MiniCPM-V4.0正式开源，为开发者带来突破性的端侧应用体验。这款拥有4B参数量的模型不仅在OpenCompass、OCRBench、MathVista等多个权威榜单上斩获同级SOTA（State of the Art）成绩，更实现了在手机等移动设备上的稳定流畅运行，标志着多模态模型在端侧应用领域迈出了历史性一步。
MiniCPM-V4.0的开源，为开发者提供了强大的技术支持。官方同步发布了推理部署工具MiniCPM-V CookBook，帮助开发者在不同需求、不同场景、不同设备下实现开箱即用的轻量、简易部署。作为最适合在手机上运行的模型尺寸，MiniCPM-V4.0以4B参数量实现了稳定运行和快速响应，长时间连续使用也不会出现发热或卡顿现象。目前，支持MiniCPM-V4.0本地部署的iOS App已开源，开发者可以在CookBook中下载使用。
在性能方面，MiniCPM-V4.0在4B参数量级的多模态能力上达到了同级SOTA级别。在OpenCompass、OCRBench、MathVista、MMVet、MMBench V1.1、MMStar、AI2D、HallusionBench等评测基准测试中，MiniCPM-V4.0的综合性能均为同级最高。特别是在OpenCompass测评中，MiniCPM-V4.0的综合性能超过了Qwen2.5-VL3B模型和InternVL2.54B模型，甚至可比肩GPT-4.1-mini、Claude3.5Sonnet。与上一代MiniCPM-V2.6的8B模型相比，MiniCPM-V4.0在模型参数减半的同时，多模态能力实现了显著提升。
MiniCPM-V4.0之所以能在手机、PC等端侧设备上丝滑、流畅地完成实时视频理解、图像理解等任务，除了其出色的效果外，还得益于独特的模型结构设计。该设计实现了同尺寸模型下最快的首响时间与更低的显存占用。经在Apple M4Metal上测试，正常运行MiniCPM-V4.0模型时，显存占用仅为3.33GB，低于Qwen2.5-VL3B、Gemma3-4B等模型。在图片理解测试中，MiniCPM-V4.0借助ANE + Metal辅助加速，首次响应时间大幅缩短，随着输入图片分辨率的提高，首响时间快的优势更为明显。
此外，研究团队还利用2张4090GPU对模型并发量、吞吐量进行了测试。实验结果显示，在算力资源可支持的范围内，随着并发量的增加，MiniCPM-V4.0模型的总吞吐量优势更为明显。例如，在256并发用户需求下，MiniCPM-V4.0的吞吐量高达13856tokens/s，远超Qwen2.5-VL的7153tokens/s、Gemma3的7607tokens/s。
MiniCPM-V4.0的开源，不仅为开发者提供了强大的技术支持，更为多模态模型在端侧应用领域开辟了新的可能性。通过MiniCPM-V CookBook，开发者可以轻松实现模型的部署和应用，进一步推动AI技术在移动设备上的普及和发展。
Github: https://github.com/OpenBMB/MiniCPM-oHugging Face: https://huggingface.co/openbmb/MiniCPM-V-4ModelScope: https://modelscope.cn/models/OpenBMB/MiniCPM-V-4CookBook: https://github.com/OpenSQZ/MiniCPM-V-CookBook
