SummFlow 2026-05-21 Hugging Face

Qwopus3.5-9B-Coder-MTP (Jackrong)

9B多令牌预测代码模型,GGUF量化,面向代码推理

入选理由
GGUF格式可直接部署;MTP提升速度与准确率,属同系列微调。
对位
对位 Qwen2.5-Coder-7B,强调MTP推理加速
适合
本地代码生成与补全 / 高吞吐 Agent 代码推理
不适合
长上下文推理或非量化高精度需求
规模
9B · 128k
授权
apache-2.0 · 可商用
框架
llama.cpp / ollama / llama-cpp-python
血统
LoRA · 基于 Qwopus3.5-9B-v3.5
可信度
下载量6680,点赞51;基于Qwen3.5-9B,MTP实测吞吐+35.8%

社区实测

社区用户反馈该模型比原版 Qwen3.5 9B 更稳定,在本地 agentic coding 场景下体验良好,但尚处早期测试阶段。

  • 解决了原版 Qwen3.5 9B 在对话中频繁挂起、客户端断连的稳定性问题
  • 为本地 9B 规模的 agentic coding 场景提供了一个可用的开源选择
  • 最大上下文长度仅 260k,用户认为这是一个遗憾
  • 社区测试仍处于早期阶段(用户称仅测试了几天),长期稳定性待观察

截至 2026-06-19

快速上手

ollama run hf.co/Jackrong/Qwopus3.5-9B-Coder-MTP-GGUF:Q4_K_M