模型 / GLM-5.3-Flash-DFlash2 (incoai)

GLM-5.3-Flash-DFlash2 (incoai)

为 GLM-5.3-Flash 推理加速的 DFlash2 草稿模型

作者 incoai

仓库标识incoai/GLM-5.3-Flash-DFlash2

~0.7GB 4-bit许可 不可商用任务 文本生成最近核对 2026-08-29
格式
4-bit
文件
~0.6GB
运行内存
~0.7GB–0.9GB
运行时
SGLANG
下载
3,253

仅 safetensors · 无 pickle 加载风险

Hugging Face 源仓库 ↗

快速上手示例

sglang serve --model-path zai-org/GLM-5.3-Flash --trust-remote-code --speculative-algorithm DFLASH --speculative-draft-model-path incoai/GLM-5.3-Flash-DFlash2 --speculative-draft-attention-backend fa4

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由
DFlash2是GLM-5.3-Flash的投机解码草稿模型，需配合SGLang服务使用，可提升解码速度2倍左右。适合追求推理性能的开发者。
适合
GLM-5.3-Flash 投机解码加速 / 提高 GLM-5.3-Flash 生成吞吐
不适合
独立文本生成

完整规格

规模
1.2B · 下载 ~0.6GB · 显存最低 ~0.7GB · 推荐 ~0.9GB · 4-bit(估算)
授权
CC BY-NC-ND 4.0 · 不可商用
框架
sglang
血统
微调自 GLM-5.3-Flash
访问提示
Hugging Face 可能需要代理

下载动量

观测时间线