Qwen3.5-0.8B heretic-tuned GGUF (mradermacher)

0.8B GGUF 量化，边缘设备本地推理

仓库标识mradermacher/Qwen3.5-0.8B-heretic-tuned-GGUF

显存未知许可可商用最近核对 2026-10-09

链接指向的配置不在本页收录的形态里,已显示默认形态(GGUF)。

快速上手示例

llama-server -hf mradermacher/Qwen3.5-0.8B-heretic-tuned-GGUF

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由: Qwen3.5-0.8B 微调版的 GGUF 量化，提供多档位量化文件，可用 llama.cpp 直接本地运行，适合低资源环境快速部署 0.8B 对话模型。
对位: 对位 Llama-3.2-1B / Qwen2.5-0.5B
适合: 低资源环境本地运行 / llama.cpp/ollama 快速部署
不适合: 复杂推理与高质量长文本生成

30天下载 453 → 343