模型 / grug-27b (ProCreations)

grug-27b (ProCreations)

27B 令牌高效推理模型，用于智能体与工具调用

作者 ProCreations

仓库标识ProCreations/grug-27b

~16GB 4-bit许可可商用任务智能体最近核对 2026-07-26

格式: 4-bit
文件: ~14GB
运行内存: ~16GB–21GB
运行时: VLLM
下载: 881

仅 safetensors · 无 pickle 加载风险

Hugging Face 源仓库 ↗

快速上手示例

vllm serve ProCreations/grug-27b --reasoning-parser qwen3 --max-model-len 32768

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由: grug-27b 基于 Qwen3.6-27B 微调，独创“grug think”推理风格，在同等能力下节省 94-98% 推理 token，特别适合智能体工具调用场景。需自己部署，建议 vLLM，至少 A100-80GB。
对位: 对位 Qwen3.6-27B 基座及同类 27B 开源推理模型
适合: 智能体长回合任务 / 高效代码与数学推理
不适合: 不计令牌消耗的超长思维链任务

完整规格

规模: 27B · 下载 ~14GB · 显存最低 ~16GB · 推荐 ~21GB · 4-bit(估算)
授权: Apache-2.0 · 可商用
框架: transformers / vllm / sglang / llama.cpp
工具调用: OpenAI 兼容（内部 grug XML，qwen3_coder 解析器）
血统: 微调自 Qwen3.6-27B
访问提示: Hugging Face 可能需要代理

下载动量

30天下载 2.5k → 2k · likes +11

观测时间线

2026-07-26 · 当日卡片 →

模型家族

Qwen3.6-27B
- LoRA BTL-3 (Bad Theory Labs)
- 量化 Bonsai-27B-mlx-1bit (Prism ML)
- 量化 Qwen3.6-27B (OBLITERATUS)
- 量化 Qwen3.6-27B-GGUF (unsloth)
- 量化 Qwen3.6-27B-MTP-pi-tune (bytkim)
- 量化 Qwen3.6-27B-OptiQ-4bit (mlx-community)
- 量化 Qwen3.6-27B-Uncensored-Aggressive (HauhauCS)
- LoRA Qwen3.6-27b-Fable5 (hotdogs)
- 量化 Qwopus3.6-27B-Fusion (KyleHessling1)
- LoRA Qwopus3.6-27B-v2-MTP-GGUF (Jackrong)
- 量化 Ternary-Bonsai-27B (Prism ML)
- 微调 grug-27b (ProCreations)

查看全部家族 →