此页是 2026-09-19 的观测快照,查看该模型当前信息 → /m/prism-ml__ternary-bonsai-2-27b-mlx-2bit/

归档 / 2026-09-19 / Ternary-Bonsai-2-27B-mlx-2bit (Prism ML)

Ternary-Bonsai-2-27B-mlx-2bit (Prism ML)

27B 三值权重 MLX 模型，面向笔记本端侧推理

MLX

入选理由: 8.6GB 在笔记本上跑 27B 模型，保持 98% 推理能力，三元量化新方法。需专用 runtime，适合 Apple Silicon 或自编译 llama.cpp。
对位: 对位 Qwen3.8-27B 其他低位量化版
适合: 笔记本本地 27B 推理 / 长上下文 agent 工具调用
不适合: 需要满血 FP16 精度的场景
规模: 27B · 262k · Q4 ~18GB / FP16 ~65GB
授权: Apache-2.0 · 需自查
框架: mlx / llama.cpp
血统: 量化自 Qwen3.8-27B
可信度: HF 下载 5056、点赞 172；模型卡列 14 项基准

仅 safetensors · 无 pickle 加载风险

评分详情

Q1: 今天能接上用吗 3 / 5
Q2: 有可信证据吗 3 / 5
Q3: 是新东西吗 5 / 5
总分: 11

HuggingFace 原始数据 (抓取于 2026-09-19)

作者: prism-ml
任务类型: text-generation
推理库: mlx
下载: 5,056
点赞: 172
许可证: Apache-2.0
标签: mlx, safetensors, prism_hadamard_qwen35, ternary, 2-bit, cuda, metal, on-device, hybrid-attention, prismml, bonsai, text-generation, conversational, base_model:Qwen/Qwen3.8-27B, base_model:finetune:Qwen/Qwen3.8-27B, license:apache-2.0, region:us

探索