归档 / 2026-05-18 / Qwen3.6-27B-GGUF (unsloth)

Qwen3.6-27B-GGUF (unsloth)

Qwen3.6-27B GGUF量化版，面向本地部署与边缘推理

部署

py llama.cpp: ./main -m Qwen3.6-27B-Q4_K_M.gguf
oll ollama: 通过 Modelfile 导入 GGUF 后运行

入选理由: GGUF格式即用，下载量高但属量化重打包，无新增能力。
对位: 对标 Qwen3-35B-A3B MoE 与 DeepSeek-Coder-V2
适合: 本地代码智能体与工具调用 / 长上下文文档分析及问答
不适合: 依赖全精度浮点的科研场景
规模: 27B · 262K
授权: Apache-2.0
框架: llama.cpp / ollama
可信度: HuggingFace下载量184万+，源自Apache-2.0许可的Qwen3.6-27B

评分详情

Q1: 今天能接上用吗 5 / 5
Q2: 有可信证据吗 3 / 5
Q3: 是新东西吗 1 / 5
总分: 9

HuggingFace 原始数据 (抓取于 2026-05-18)

作者: unsloth
任务类型: image-text-to-text
推理库: transformers
下载: 1,845,912
点赞: 692
许可证: Apache-2.0
标签: transformers, gguf, unsloth, qwen, qwen3_5, image-text-to-text, base_model:Qwen/Qwen3.6-27B, base_model:quantized:Qwen/Qwen3.6-27B, license:apache-2.0, endpoints_compatible, region:us, imatrix, conversational

探索