Qwen3.6-27B-MTP-pi-tune (bytkim)

独立证据与社区反馈

13 个独立来源最近验证 2026-08-23

社区普遍认为 Qwen3.6-27B 是当下最值得本地跑的 27B 稠密机型:在 agentic 编程基准上全面超过上代 397B 参数的 MoE 旗舰(9),开启 MTP 后吞吐接近翻倍、实测约 50 TPS(5,7)。口碑集中在『小尺寸、编程与代理能力强』,但社区同时提醒量化档位与显存门槛会明显影响实际体验(1,4)。

• agentic 编程:27B 稠密架构在各项主要 agentic 编程基准上胜过上代 397B MoE 旗舰,降低『本地卡跑不动复杂编码/代理任务』的门槛(9)
• 速度:开启 MTP 投机解码后吞吐大幅提升(53/46 TPS vs 无 MTP 的 29/27 TPS),且快过 Mistral 24B,消费级显卡即可受益(5,7,15)
• 部署:全部装进显存、无溢出,配合 MTP 在中等配置上就有可用速度,对应『要上代旗舰表现又不想堆多卡』的需求(5)
• 长上下文:原生 262K token 上下文,可用 YaRN 扩展到 100 万以上,适配长代码库/长文档(11,12)
• 多模态:原生支持文本/图像/视频输入,一张卡兼顾视觉与编码场景(11)
• 长输出:最大输出 65,536 token,可覆盖整文件生成等长输出需求(12)
• 工具/结构化输出:BF16 精度下严格结构化输出 100% 命中、重复工具调用成功率 90.7%,满足 agent 场景的稳定性要求(4)
• 微调红利:社区实测编程向微调/合并构建在编码上略优于原版,是该尺寸下冲编码体验的常见选择(0,2)

• 低比特不可靠:Q3 档位被反馈『too unreliable』,建议 Q4 起跳(1)
• 量化敏感:INT4 vs BF16 在重复工具调用(83.7% vs 90.7%)与严格结构化输出(64% vs 100%)上差距明显,求稳需上高精度(4)
• 资源门槛:dense 27B 吃内存/显存,有用户称『needs more RAM than I have』,16GB 级平台即便开 MTP 也难跑顺(1,3)
• 吞吐靠调参:需手动配 --spec-type draft-mtp、--spec-draft-n-max 等(乃至叠加 ngram-mod)才能拿到最佳 tok/s(6)
• 换代压力:与 Qwen3.8-27B 直接对比时后者 10 项真实任务 9 胜 1 负(8.838 vs 6.862),社区已有迁移势头(10)
• 量化试错成本:不同量化档位体验差异大(如 q4 k xl 有时反而更快更好),逐档下载试错耗时(1)
• 微调选择分歧:哪个微调最好没有共识,有人推 ff711/Qwopus,有人直接转投 35B-A3B 或 Qwen3.8,选择成本高(0,1,2,10)

• 独立评测Qwen3.6 27B: Dense vs MoE Benchmarks on Dual RTX 3090 | sanj.dev
• 社区实测Qwen3.6-35B blows away 27b, even 27B-MTP | r/LocalLLM
• 社区实测next best jump from qwen 3.6 27b | r/LocalLLaMA
• 独立评测Qwen 3.6 27B and 35B MTP vs Standard on 16GB GPU | Medium
• 独立评测Qwen3.6-27B-MTP Benchmarks | Millstone AI
• 独立评测Qwen3.6 27B - API Pricing & Benchmarks | OpenRouter
• 社区实测Tested Qwen3.6-27B (Q3/Q4) on RTX 4060 Ti 16GB | r/LocalLLM
• 社区实测Looking for alternatives to Qwen3.6 27B | r/LocalLLM
• 社区实测Best Qwen3-27B variant for coding? | r/Qwen_AI
• 社区实测Is Qwen3.6 still the best for coding? | r/LocalLLM
• 社区实测Anyone else amped up over Qwen 3.8? | r/LocalLLaMA
• 社区实测Qwen3.8-27B: What are your settings? | r/LocalLLM
• 独立评测Qwen3.8-27B Review: The Open-Weight 27B Worth Running | orcarouter

可信度已发布多量化GGUF，llama.cpp原生支持MTP，实测draft acceptance ~78%