资讯

OpenBMB Releases MiniCPM5-2B: A 2.52B Dense Model Averaging 53.9 Across 34 Benchmarks and Built to Run On Device

marktechpost.com·2026/9/7 19:18:07🔗 原文

📋总体概括

OpenBMB发布MiniCPM5-2B,参数量2,516,756,480,原生支持131,072 token上下文,在34项基准测试中平均得分53.9,超过Qwen3.5-4B的51.1,优势集中在工具调用、编程Agent和长文本检索。后训练使用400B token深度思考SFT结合RL教师与on-policy蒸馏,将16个专家模型合并为单一检查点。权重以Apache 2.0开源,附训练数据集和Base/Midtrain/SFT中间检查点,GGUF最小1.56GB,标准LlamaForCausalLM架构可直接在vLLM、llama.cpp、Ollama等主流推理框架加载。

关键信息

  • MiniCPM5-2B参数量2,516,756,480,原生上下文131,072 token,主打端侧运行
  • 34项基准平均分53.9,超过Qwen3.5-4B的51.1,优势在工具调用、编程Agent和长上下文检索
  • 后训练用400B token深度思考SFT,结合RL教师和on-policy蒸馏合并16个专家模型
  • Apache 2.0开源权重,同时放出预训练/SFT/RL数据集及Base、Midtrain、SFT-only中间检查点
  • GGUF最小1.56GB,标准LlamaForCausalLM架构无需改代码即可在vLLM、Ollama、MLX等加载

🔥犀利点评

2.5B打4B还赢两分多,这个效率比绝对分数更值得注意——如果端侧真能跑出这个水平,手机和边缘设备的本地Agent生态就有新底座了。敢把预训练、SFT、RL数据集连同中间检查点全部开源,比一堆只发权重的「开源」有诚意得多。当然,53.9 vs 51.1是平均数,具体基准上的分布和真实端侧推理速度才是试金石,先别急着封神。

本文由本站自动聚合,以下为原始来源:前往 marktechpost.com 阅读全文