归档 / 2026-05-28 / MiniCPM5-1B-GGUF (OpenBMB)
MiniCPM5-1B-GGUF (OpenBMB)
1B 模型 GGUF 量化，本地 agent 与边缘部署用
- 部署
-
- oll ollama run hf.co/openbmb/MiniCPM5-1B-GGUF 复制
- py llama.cpp 直接加载 GGUF 文件运行 复制
- py 魔搭 ModelScope 下载 GGUF 复制
- 入选理由
- MiniCPM5-1B GGUF格式即下即用，1B参数长上下文+工具调用，多项优化达SOTA，推荐用于本地部署。
- 对位
- 对位 LFM2.5-1.2B / Qwen3.5-0.8B
- 适合
- 本地工具调用 agent / 边缘推理与桌面宠物
- 不适合
- 高吞吐量线上服务
- 规模
- 1B · 128k
- 授权
- apache-2.0 · 需自查
- 框架
- llama.cpp / ollama / LM Studio
- 可信度
- RL+OPD 训练带来平均分 +16、超长回复率 ↓29pp；1B 级工具调用/推理 SOTA
评分详情
- Q1
- 今天能接上用吗 5 / 5
- Q2
- 有可信证据吗 3 / 5
- Q3
- 是新东西吗 5 / 5
- 总分
- 13
HuggingFace 原始数据 (抓取于 2026-05-28)
- 作者
- openbmb
- 推理库
- transformers
- 下载
- 1,655
- 点赞
- 98
- 许可证
- apache-2.0
- 标签
- transformers, gguf, minicpm, minicpm5, llama, text-generation, long-context, tool-calling, on-device, edge-ai, en, zh, dataset:openbmb/Ultra-FineWeb, dataset:openbmb/Ultra-FineWeb-L3, dataset:openbmb/UltraData-Math, dataset:openbmb/UltraData-SFT-2605, arxiv:2506.07900, arxiv:2602.09003, arxiv:2512.16649, arxiv:2604.13016, license:apache-2.0, endpoints_compatible, region:us, conversational
探索
源链接 ↗