模型 / Ternary-Bonsai-27B (Prism ML)

Ternary-Bonsai-27B (Prism ML)

三元权重 27B 推理模型，笔记本本地运行

作者: prism-ml
对位: 对位 Qwen3.6-27B IQ2_XXS 等 2-bit 量化
适合: 笔记本端侧推理 27B 模型 / 长上下文 (262K) 离线分析
不适合: 手机直接部署
入选理由: 可在笔记本上以7.2GB运行27B级别模型，保留95%性能，三进制权重新范式，适合本地离线部署。
规模: 27B · 262K · Q4 ~18GB / FP16 ~65GB
授权: Apache-2.0 · 需自查
框架: llama.cpp / mlx
血统: 量化自 Qwen3.6-27B
国内访问: 需代理
可信度: 80.49 平均分在 15 项思考基准上，保留 FP16 的 95%，部署仅 7.2GB

社区实测

MLX 后端可运行，GGUF 版本加载失败，社区实测反馈极少

MLX 后端可正常加载运行

GGUF 版本加载失败，llama.cpp 兼容性存在问题

来源

Introducing Ternary Bonsai: Top Intelligence at 1.58 Bits : r ...

截至 2026-07-15

本形态显存 Q4 ~18GB / FP16 ~65GB · 国内需代理 · 23 下载

快速上手

ollama run hf.co/prism-ml/Ternary-Bonsai-27B-gguf

本形态源 ↗

下载动量

观测时间线

2026-07-15 · 当日卡片 →

模型家族

Qwen3.6-27B
- 量化 Bonsai-27B (Prism ML)
- 量化 Bonsai-27B-mlx-1bit (Prism ML)
- 量化 Qwen3.6-27B (OBLITERATUS)
- LoRA Qwen3.6-27b-Fable5 (hotdogs)
- 量化 Qwen3.6-27B-GGUF (unsloth)
- 量化 Qwen3.6-27B-MTP-pi-tune (bytkim)
- 量化 Qwen3.6-27B-OptiQ-4bit (mlx-community)
- LoRA Qwopus3.6-27B-v2-MTP-GGUF (Jackrong)
- 量化 Ternary-Bonsai-27B (Prism ML)

查看全部家族 →