
Qwopus3.5-9B-Coder-MTP (Jackrong)
9B多令牌预测代码模型,GGUF量化,面向代码推理
- 对位
- 对位 Qwen2.5-Coder-7B,强调MTP推理加速
- 适合
- 本地代码生成与补全 / 高吞吐 Agent 代码推理
- 不适合
- 长上下文推理或非量化高精度需求
- 入选理由
- GGUF格式可直接部署;MTP提升速度与准确率,属同系列微调。
- 规模
- 9B · 128k · 最低 ~5.4GB · 4-bit(估算)
- 授权
- apache-2.0 · 可商用
- 框架
- llama.cpp / ollama / llama-cpp-python
- 血统
- LoRA · 基于 Qwopus3.5-9B-v3.5
- 国内访问
- 需代理
- 可信度
- 下载量6680,点赞51;基于Qwen3.5-9B,MTP实测吞吐+35.8%
本形态 ~5.4GB 4-bit · 国内 需代理 · 6,680 下载
快速上手
ollama run hf.co/Jackrong/Qwopus3.5-9B-Coder-MTP-GGUF:Q4_K_M 点击复制
本形态源 ↗
本形态 ~5.4GB 4-bit · 国内 需代理 · 6,462 下载
快速上手
llama-server -hf Jackrong/Qwopus3.5-9B-Coder-GGUF 点击复制
本形态源 ↗
下载动量
30天下载 86.3k → 57.6k · likes +18