Ternary-Bonsai-27B (Prism ML)
三元权重 27B 推理模型，笔记本本地运行
仓库标识prism-ml/Ternary-Bonsai-27B-gguf
显存未知许可 可商用任务 文本生成最近核对 2026-08-05
链接指向的配置 不在本页收录的形态里,已显示默认形态(GGUF)。
- 运行内存
- 格式线索互相矛盾(含估算映射未支持的位宽),无法估算显存
- 运行时
- OLLAMA
- 下载
- 23
快速上手示例
ollama run hf.co/prism-ml/Ternary-Bonsai-27B-gguf 依赖版本和硬件参数请以源仓库说明为准。
适合与不适合
独立证据与社区反馈
三元量化体积优势明显，体感优于传统 Q2 但明显不及 Q4，工具调用场景表现亮眼，常规对话质量与同规模常规量化仍有差距。
- 在不到传统 Q2_XXS 三分之二的体积下提供更高思考基准得分
- 27B 级多模态模型首次可在普通笔记本和手机上本地运行
- 工具调用出色，回复详尽准确
- 质量明显不如 Q4 量化，PPL（13.8）接近 Q4（7.3）的两倍
- 在 KB 问答场景下，传统 Q2_K_XL 在指令遵循和内容理解上表现更好
- 独立评测Ternary Bonsai 27B is PrismML's low-bit build of Qwen3.6 27B
- 独立评测Announcing Bonsai 27B: The First 27B-Class Model to Run ...
- 社区实测Bonsai 27B
- 社区实测Prism-ML Bonsai Qwen 3.6 27B : r/LocalLLaMA
- 社区实测User experience of Bonsai-Ternary-27B on 4060Ti 16GB for KB ...
可信度80.49 平均分在 15 项思考基准上，保留 FP16 的 95%，部署仅 7.2GB
完整规格
下载动量
30天下载 639.1k → 651k · likes +104
在线体验
观测时间线
模型家族
- Qwen3.6-27B
- LoRA BTL-3 (Bad Theory Labs)
- 量化 Bonsai-27B-mlx-1bit (Prism ML)
- 量化 Qwen3.6-27B (OBLITERATUS)
- 量化 Qwen3.6-27B-GGUF (unsloth)
- 量化 Qwen3.6-27B-MTP-pi-tune (bytkim)
- 量化 Qwen3.6-27B-OptiQ-4bit (mlx-community)
- 量化 Qwen3.6-27B-Uncensored-Aggressive (HauhauCS)
- LoRA Qwen3.6-27b-Fable5 (hotdogs)
- 量化 Qwopus3.6-27B-Fusion (KyleHessling1)
- LoRA Qwopus3.6-27B-v2-MTP-GGUF (Jackrong)
- 量化 Ternary-Bonsai-27B (Prism ML)
- 微调 grug-27b (ProCreations)