模型 / MiniCPM5-1B (OpenBMB)

MiniCPM5-1B (OpenBMB)

1B 模型 GGUF 量化，本地 agent 与边缘部署用

作者: openbmb
对位: 对位 LFM2.5-1.2B / Qwen3.5-0.8B
适合: 本地工具调用 agent / 边缘推理与桌面宠物
不适合: 高吞吐量线上服务
入选理由: MiniCPM5-1B GGUF格式即下即用，1B参数长上下文+工具调用，多项优化达SOTA，推荐用于本地部署。
规模: 1B · 128k · 最低 ~0.6GB · 4-bit(估算)
授权: apache-2.0 · 可商用
框架: llama.cpp / ollama / LM Studio
国内访问: 魔搭可用
可信度: RL+OPD 训练带来平均分 +16、超长回复率 ↓29pp；1B 级工具调用/推理 SOTA

仅 safetensors · 无 pickle 加载风险

社区实测

社区认为该模型在同尺寸下的基准测试表现超出预期，以 1B 参数量在多项指标上超越 Qwen3.5 2B 等更大模型

INT4 量化后仅 0.5GB，可手机端运行
标准 LlamaForCausalLM 架构，Ollama/vLLM/llama.cpp 零额外配置即用
Apache 2.0 协议，权重、训练数据、部署代码全量开源
支持 128K 以上长上下文窗口，同一 checkpoint 支持 Think/No Think 双模式

来源

MiniCPM5 1B (now open source) benchmarks are kind of ...openbmb/minicpm5 OpenBMB/MiniCPM: MiniCPM5-1B: A SOTA 1B on-device LLM, small yet ...

截至 2026-07-19

本形态 ~0.6GB 4-bit · 国内魔搭可用 · 2 下载

仅 safetensors · 无 pickle 加载风险

快速上手

vllm serve openbmb/MiniCPM5-1B

本形态源 ↗

下载动量

30天下载 374.8k → 398.3k · likes +164

观测时间线

模型家族

MiniCPM5-1B (OpenBMB)
- 微调 MiniCPM5-1B-Thinking (OpenBMB)

查看全部家族 →