模型 / Ternary-Bonsai-2-27B-mlx-2bit (Prism ML)

Ternary-Bonsai-2-27B-mlx-2bit (Prism ML)

27B 三值权重 MLX 模型，面向笔记本端侧推理

作者 prism-ml

仓库标识prism-ml/Ternary-Bonsai-2-27B-mlx-2bit

显存未知许可可商用任务文本生成最近核对 2026-09-19

链接指向的配置不在本页收录的形态里,已显示默认形态(原生)。

运行内存: 格式线索互相矛盾(含估算映射未支持的位宽),无法估算显存
运行时: mlx
下载: 5,056

仅 safetensors · 无 pickle 加载风险

Hugging Face 源仓库 ↗

适合与不适合

入选理由: 8.6GB 在笔记本上跑 27B 模型，保持 98% 推理能力，三元量化新方法。需专用 runtime，适合 Apple Silicon 或自编译 llama.cpp。
对位: 对位 Qwen3.8-27B 其他低位量化版
适合: 笔记本本地 27B 推理 / 长上下文 agent 工具调用
不适合: 需要满血 FP16 精度的场景

完整规格

规模: 27B · 262k · 格式线索互相矛盾(含估算映射未支持的位宽),无法估算显存
授权: Apache-2.0 · 可商用
框架: mlx / llama.cpp
血统: 量化自 Qwen3.8-27B
访问提示: Hugging Face 可能需要代理

下载动量

30天下载 79.8k → 65.6k · likes +178

观测时间线

2026-09-19 · 当日卡片 →

模型家族

Qwen3.8-27B
- 量化 Dirk-Qwen3.8-27B (peculiar-ragdoll)
- 微调 Hemmingway-1 (Altworld)
- 量化 Huihui-Qwen3.8-27B-abliterated-GGUF (huihui-ai)
- 量化 OrcaSAQ-2-27B (OrcaRouter)
- 量化 Qwen3.8-27B (ISTA-DASLab)
- 量化 Qwen3.8-27B (LM Studio)
- 量化 Qwen3.8-27B (Qwen)
- 量化 Qwen3.8-27B Heretic Abliterated GGUF (0bserverx)
- 量化 Qwen3.8-27B MTPLX (Youssofal)
- LoRA Qwen3.8-27B-Atlassian-Q8-mlx (LeanZero)
- 微调 Qwen3.8-27B-DFlash2 (z-lab)
- 量化 Qwen3.8-27B-Escha-W2 (Escha)
- 量化 Qwen3.8-27B-MTPLX-Optimized-Speed (Youssofal)
- 量化 Qwen3.8-27B-OBLITERATED (OBLITERATUS)
- 量化 Qwen3.8-27B-Ridge-GGUF (empero-ai)
- 量化 Qwen3.8-27B-Uncensored-GGUF (orcarouter)
- 量化 Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF (HauhauCS)
- 量化 Qwen3.8-27B-VQ (TheDrainFlorist)
- 量化 Qwen3.8-27B-VQ-4.5bpw (Qwen)
- 量化 Qwen3.8-27B-VQ-4.8bpw (Qwen)
- 量化 Qwen3.8-Whittle-MoE-27B-A17.8B (logic65)
- 量化 Qwopus3.8-27B-Flash-GGUF (Jackrong)
- 量化 Ternary-Bonsai-2-27B (Prism ML)
  - 量化 Bonsai-2-27B-Ternary-CRACK-GGUF (dealignai)
- 量化 Ternary-Bonsai-2-27B-mlx-2bit (Prism ML)
- 量化 Underdog-Saluki-27B-1.0 (ConwayResearch)

查看全部家族 →