此页是 2026-08-01 的观测快照,查看该模型当前信息 → /m/prism-ml__bonsai-27b-gguf/

归档 / 2026-08-01 / Bonsai-27B (Prism)

Bonsai-27B (Prism)

多模态 27B 模型，纯 Q1_0 量化，语言部分仅 3.8 GB

入选理由: Bonsai-27B 的 1-bit GGUF 量化,含视觉投影,可用 llama.cpp/LM Studio 本地运行;适合低资源设备尝鲜多模态,但 1-bit 精度损失大。
对位: 对位 InternVL2-26B
适合: 低显存本地多模态聊天 / 图片描述与视觉问答
不适合: 复杂文档视觉解析
规模: 27B · 未知 · Q4 ~18GB / FP16 ~65GB
授权: Apache-2.0 · 需自查
框架: llama.cpp / lmstudio
血统: 量化自 Bonsai-27B-unpacked
可信度: 由 LM Studio 官方社区转换，SHA256 校验，Apache-2.0 许可证

快速上手示例

llama-server -hf lmstudio-community/Bonsai-27B-GGUF

依赖版本和硬件参数请以源仓库说明为准。

评分详情

Q1: 今天能接上用吗 5 / 5
Q2: 有可信证据吗 1 / 5
Q3: 是新东西吗 1 / 5
总分: 7

HuggingFace 原始数据 (抓取于 2026-08-01)

作者: lmstudio-community
任务类型: unknown
推理库: gguf
下载: 218
点赞: 3
许可证: Apache-2.0
标签: gguf, llama.cpp, multimodal, qwen35, bonsai, 1-bit, base_model:prism-ml/Bonsai-27B-unpacked, base_model:quantized:prism-ml/Bonsai-27B-unpacked, license:apache-2.0, endpoints_compatible, region:us, conversational

探索