MiniCPM5-1B-GGUF (OpenBMB)
1B 模型 GGUF 量化，本地 agent 与边缘部署用
社区实测
在 1B 参数级开源模型中综合基准得分最高，工具调用与代码生成是其相对突出的长板。
- 1B 规模下的端侧/本地部署，模型仅约 1.2GB，适合资源受限场景
- 原生 128K 长上下文支持，同一检查点提供 Think/No Think 双模式
- 覆盖主流推理后端（llama.cpp、vLLM、Ollama 等）的开箱即用部署指引
- 相比前代 MiniCPM-V 4.6 1.3B，输出 token 消耗更高（约 2.3 倍），在按 token 计费或缓存敏感场景需留意
来源
openbmb/MiniCPM5-1B-GGUF · Hugging FaceGitHub - OpenBMB/MiniCPM: MiniCPM5-1B: A SOTA 1B on-device ...openbmb/minicpm5MiniCPM5-1B: The leading 1B open weights model - Artificial Analysis
截至 2026-06-19
快速上手示例
ollama run hf.co/openbmb/MiniCPM5-1B-GGUF 依赖版本和硬件参数请以源仓库说明为准。