此页是 2026-10-09 的观测快照,查看该模型当前信息 → /m/mradermacher__qwen35-08b-heretic-tuned-gguf/

归档 / 2026-10-09 / Qwen3.5-0.8B heretic-tuned GGUF (mradermacher)

Qwen3.5-0.8B heretic-tuned GGUF (mradermacher)

0.8B GGUF 量化，边缘设备本地推理

入选理由: Qwen3.5-0.8B 微调版的 GGUF 量化，提供多档位量化文件，可用 llama.cpp 直接本地运行，适合低资源环境快速部署 0.8B 对话模型。
对位: 对位 Llama-3.2-1B / Qwen2.5-0.5B
适合: 低资源环境本地运行 / llama.cpp/ollama 快速部署
不适合: 复杂推理与高质量长文本生成
规模: 0.8B · 未知 · Q4 ~0.5GB / FP16 ~1.9GB
授权: apache-2.0 · 需自查
框架: llama.cpp / ollama
血统: 量化自 Qwen3.5-0.8B-heretic-tuned-REASONING
可信度: HF 下载量 159，点赞 1；提供 12 个静态量化档位

快速上手示例

llama-server -hf mradermacher/Qwen3.5-0.8B-heretic-tuned-GGUF

依赖版本和硬件参数请以源仓库说明为准。

评分详情

Q1: 今天能接上用吗 5 / 5
Q2: 有可信证据吗 1 / 5
Q3: 是新东西吗 1 / 5
总分: 7

HuggingFace 原始数据 (抓取于 2026-10-09)

作者: mradermacher
任务类型: unknown
推理库: transformers
下载: 159
点赞: 1
许可证: apache-2.0
标签: transformers, gguf, text-generation-inference, unsloth, qwen3_5, en, license:apache-2.0, endpoints_compatible, region:us, conversational

探索