此页是 2026-09-04 的观测快照,查看该模型当前信息 → /m/ista-daslab__qwen38-27b-gsq-rco-gguf/

归档 / 2026-09-04 / Qwen3.8-27B (ISTA-DASLab)

Qwen3.8-27B (ISTA-DASLab)

GSQ-RCO 非均匀 GGUF 量化,含视觉投影器

入选理由
Qwen3.8-27B 的 GSQ-RCO 混合精度量化 GGUF,支持 Ollama/llama.cpp,带 mmproj 可图像理解,适合低显存部署。
对位
对位 Qwen3-30B-A3B
适合
本地 GGUF 多模态量化推理 / 图像理解与视觉问答
不适合
训练/微调或需原始权重场景
规模
27B · 未知 · Q4 ~18GB / FP16 ~65GB
授权
apache-2.0 · 需自查
框架
llama.cpp / ollama / lmstudio
血统
量化自 Qwen3.8-27B
可信度
下载 100110,赞 242;GSQ/RCO 论文与代码公开

快速上手示例

ollama run hf.co/ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF

依赖版本和硬件参数请以源仓库说明为准。

评分详情

Q1
今天能接上用吗   5 / 5
Q2
有可信证据吗   3 / 5
Q3
是新东西吗   1 / 5
总分
9

HuggingFace 原始数据 (抓取于 2026-09-04)

作者
ISTA-DASLab
任务类型
image-text-to-text
推理库
gguf
下载
100,110
点赞
242
许可证
apache-2.0
标签
gguf, gsq, rco, quantization, mixed-precision, ist-daslab, multimodal, vision, image-text-to-text, arxiv:2604.18556, arxiv:2605.00649, base_model:Qwen/Qwen3.8-27B, base_model:quantized:Qwen/Qwen3.8-27B, license:apache-2.0, endpoints_compatible, region:us, imatrix, conversational

探索

源链接