此页是 2026-09-21 的观测快照,查看该模型当前信息 → /m/empero-ai__qwen38-35b-a3b-distill-gguf/

归档 / 2026-09-21 / Qwen3.8-35B-A3B-Distill-GGUF (Empero)

Qwen3.8-35B-A3B-Distill-GGUF (Empero)

35B MoE/3B 激活 GGUF，本地推理用

入选理由: 已提供多档GGUF量化，直接支持llama.cpp/Ollama本地运行，MoE架构显存占用友好，并附带视觉投影可处理图像输入。
对位: 对位 Qwen3-30B-A3B
适合: 本地/边缘文本生成与推理 / 图像输入的多模态问答
不适合: 长上下文高 KV cache 且显存受限
规模: 35B (3B 激活) · 未知 · Q4 ~23GB / FP16 ~84GB
授权: Apache-2.0 · 需自查
框架: llama.cpp / ollama / lm-studio / jan / koboldcpp
血统: 量化自 Qwen3.8-35B-A3B-Distill
可信度: 52,476 下载，108 点赞，Apache-2.0（模型卡声明）

快速上手示例

ollama run hf.co/empero-ai/Qwen3.8-35B-A3B-Distill-GGUF

依赖版本和硬件参数请以源仓库说明为准。

评分详情

Q1: 今天能接上用吗 5 / 5
Q2: 有可信证据吗 3 / 5
Q3: 是新东西吗 1 / 5
总分: 9

HuggingFace 原始数据 (抓取于 2026-09-21)

作者: empero-ai
任务类型: text-generation
推理库: gguf
下载: 52,476
点赞: 108
许可证: Apache-2.0
标签: gguf, llama.cpp, quantized, empero-ai, qwen3.6, qwen3.8, distillation, reasoning, moe, gated-deltanet, text-generation, en, base_model:empero-ai/Qwen3.8-35B-A3B-Distill, base_model:quantized:empero-ai/Qwen3.8-35B-A3B-Distill, license:apache-2.0, endpoints_compatible, region:us, conversational

探索