2026-07-10

MiniCPM5-1B-Thinking-GGUF (GnLOLot)

1B 思维链模型 GGUF 量化，本地轻量代码与指令任务

入选理由: 1B GGUF thinking模型，5分钟可本地运行，支持128K上下文，适合轻量部署。在MiniCPM5上微调增强编码与指令跟随。
对位: 对位 SmolLM2-1.7B
适合: 代码生成与调试 / 基于思维链的长上下文指令跟随
不适合: 不适合高精度世界知识任务
规模: 1B · 128k · Q4 ~0.7GB / FP16 ~2.4GB
授权: apache-2.0 · 需自查
框架: llama.cpp / ollama / lm-studio / koboldcpp
血统: 量化自 MiniCPM5-1B-Claude-Opus-Fable5-Thinking
可信度: 2239 下载，140 赞，基于 OpenBMB MiniCPM5-1B 量化

社区实测

目前同尺寸(1B)下综合能力最强的开源大模型之一

可在低显存设备上本地运行 GGUF 量化版本

1B 参数量级决定了它无法替代 Claude 或 9B 级别模型，上限明显

来源

MiniCPM5 1B (now open source) benchmarks are kind of absurd If Qwythos-9B Could Reason, Can a 1B? I Fine-Tuned MiniCPM5 ...MiniCPM5-1B : r/LocalLLaMA - Reddit

截至 2026-07-12

快速上手

ollama run hf.co/GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-Thinking-GGUF