grug-27b (ProCreations)

27B 令牌高效推理模型，用于智能体与工具调用

入选理由: grug-27b 基于 Qwen3.6-27B 微调，独创“grug think”推理风格，在同等能力下节省 94-98% 推理 token，特别适合智能体工具调用场景。需自己部署，建议 vLLM，至少 A100-80GB。
对位: 对位 Qwen3.6-27B 基座及同类 27B 开源推理模型
适合: 智能体长回合任务 / 高效代码与数学推理
不适合: 不计令牌消耗的超长思维链任务
规模: 27B · 未知 · Q4 ~18GB / FP16 ~66GB
授权: Apache-2.0 · 需自查
框架: transformers / vllm / sglang / llama.cpp
工具调用: OpenAI 兼容（内部 grug XML，qwen3_coder 解析器）
血统: 微调自 Qwen3.6-27B
可信度: 基于 Qwen3.6-27B 的 LoRA 训练，数据公开；HumanEval 持平基座，令牌消耗降 94%-98%，工具调用匹配 +38pp

仅 safetensors · 无 pickle 加载风险

快速上手示例

vllm serve ProCreations/grug-27b --reasoning-parser qwen3 --max-model-len 32768

依赖版本和硬件参数请以源仓库说明为准。

评分详情