此页是 2026-09-24 的观测快照,查看该模型当前信息 → /m/dealignai__bonsai-2-27b-ternary-crack-gguf/

归档 / 2026-09-24 / Bonsai-2-27B-Ternary-CRACK-GGUF (dealignai)

Bonsai-2-27B-Ternary-CRACK-GGUF (dealignai)

三元 2.13bpw 去拒绝 27B GGUF，7.2GB 本机研究用

入选理由: 7.2GB三元GGUF,笔记本/单卡可跑,OpenAI兼容即接即用;是去拒答的27B无审查变体,保留视觉与推理,适合研究/成人本地部署。
对位: 对位 Qwen3-27B / Gemma-3-27B 等开源同级
适合: 拒绝机制与对抗性提示研究 / 本机 7.2GB 运行视觉推理
不适合: 未加审核的用户端部署
规模: 27B · 8192 · Q4 ~18GB / FP16 ~65GB
授权: Apache-2.0 · 需自查
框架: llama.cpp
血统: 量化自 Ternary-Bonsai-2-27B-gguf
可信度: HF 下载 4.4 万、点赞 135；卡含 HarmBench/MMLU 实测数据

快速上手示例

ollama run hf.co/dealignai/Bonsai-2-27B-Ternary-CRACK-GGUF

依赖版本和硬件参数请以源仓库说明为准。

评分详情

Q1: 今天能接上用吗 5 / 5
Q2: 有可信证据吗 3 / 5
Q3: 是新东西吗 1 / 5
总分: 9

HuggingFace 原始数据 (抓取于 2026-09-24)

作者: dealignai
任务类型: text-generation
推理库: llama.cpp
下载: 44,106
点赞: 135
许可证: Apache-2.0
标签: llama.cpp, gguf, ternary, 2-bit, llama-cpp, cuda, metal, on-device, hybrid-attention, prismml, bonsai, qwen3.5, abliterated, uncensored, crack, text-generation, base_model:Qwen/Qwen3.8-27B, base_model:quantized:Qwen/Qwen3.8-27B, license:apache-2.0, endpoints_compatible, region:us, conversational

探索