SummFlow 2026-07-15 Hugging Face

Ternary-Bonsai-27B (Prism ML)

三元权重 27B 推理模型，笔记本本地运行

入选理由
可在笔记本上以7.2GB运行27B级别模型，保留95%性能，三进制权重新范式，适合本地离线部署。
对位
对位 Qwen3.6-27B IQ2_XXS 等 2-bit 量化
适合
笔记本端侧推理 27B 模型 / 长上下文 (262K) 离线分析
不适合
手机直接部署
规模
27B · 262K · Q4 ~18GB / FP16 ~65GB
授权
Apache-2.0 · 需自查
框架
llama.cpp / mlx
血统
量化自 Qwen3.6-27B
可信度
80.49 平均分在 15 项思考基准上，保留 FP16 的 95%，部署仅 7.2GB

快速上手

ollama run hf.co/prism-ml/Ternary-Bonsai-27B-gguf