SummFlow 2026-05-29 Hugging Face

Bonsai Image Ternary 4B (Prism ML)

1.21GB三元文生图模型,4步采样,本地GPU运行

入选理由
三元量化FLUX模型,1.2GB体积可本地运行,质量接近原版,需手动部署。
对位
对位FP16 FLUX.2 Klein 4B,压缩6.4倍
适合
本地低显存GPU文生图创作 / 私有化部署与快速创意迭代
不适合
精细文字与严格构图约束
规模
4B · 不适用
授权
Apache-2.0 · 可商用
框架
gemlite / HQQ
图像
基于 bonsai-image-ternary-4B-unpacked
可信度
GenEval 0.723, 6.4×压缩至1.21GB, RTX3080 4.5s/1024²

社区实测

速度极快、模型极小,适合本地与边缘部署,但文字生成是明显短板,人脸表现意外地好

  • 模型体积大幅压缩(1-bit 版 0.93 GB,较原 FLUX.2 Klein 4B 缩小 8.3 倍;Ternary 版 1.21 GB,缩小 6.4 倍),显著降低本地部署门槛
  • 1024×1024 出图仅需 4.2 秒(4 steps,Spark GX10),推理速度极快
  • 支持 WebGPU 在浏览器内 100% 本地运行
  • 文字(text)生成效果差
  • 默认 4 steps 下质量可能不足,有用户将步数提高到 10–20 步使用

截至 2026-06-19

快速上手

Python API: from backend_gpu.server import build_pipeline; pipe = build_pipeline('prism-ml/bonsai-image-ternary-4B-gemlite-2bit')