模型 / Ternary-Bonsai-2-27B (Prism ML)

Ternary-Bonsai-2-27B (Prism ML)

27B 三元权重 GGUF,端侧/单卡推理

作者 prism-ml

仓库标识prism-ml/Ternary-Bonsai-2-27B-gguf

显存未知许可 需自查任务 文本生成最近核对 2026-09-18
运行内存
格式线索互相矛盾(含估算映射未支持的位宽),无法估算显存
运行时
OLLAMA

Hugging Face 源仓库 ↗

快速上手示例

ollama run hf.co/prism-ml/Ternary-Bonsai-2-27B-gguf

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由
这个模型把27B模型压到5.9GB,保留大部分推理能力,但需要专用llama.cpp fork,标准工具无法直接运行。适合追求极致低比特部署的开发者。
对位
对位 Qwen3.8-27B 低比特量化版
适合
单卡/笔记本本地 27B 思考推理 / 低体积长上下文 agent 工具调用
不适合
标准 llama.cpp 直接部署

完整规格

规模
27B · 262K · 格式线索互相矛盾(含估算映射未支持的位宽),无法估算显存
授权
Apache 2.0 · 需自查
框架
llama.cpp (PrismML fork)
血统
量化自 Qwen3.8-27B
访问提示
Hugging Face 可能需要代理

下载动量

30天下载 4549.9k → 3610.2k · likes +1249

在线体验

观测时间线

模型家族

查看全部家族 →