此页是 2026-09-23 的观测快照,查看该模型当前信息 → /m/ista-daslab__qwen38-flash-next-gsq-rco-gguf/

归档 / 2026-09-23 / Qwen3.8-Flash-Next (ISTA-DASLab)

Qwen3.8-Flash-Next (ISTA-DASLab)

GGUF 非均匀量化多模态 MoE,本地图像推理

入选理由
Qwen3.8-Flash-Next的GSQ-RCO非均匀量化,支持视觉多模态,最低66GB,Ollama/llama.cpp即下即用,适合高显存本地部署。
对位
对位同规模开源 MoE
适合
本地多模态图像理解 / 推理/数学/代码基准评测
不适合
显存不足 48GB 的本地机器
规模
未公开 · 未知
授权
apache-2.0 · 需自查
框架
llama.cpp / ollama / LM Studio
血统
量化自 Qwen3.8-Flash-Next
可信度
67,988 下载, 242 点赞; IQ3_XXS AIME25 与 BF16 持平

评分详情

Q1
今天能接上用吗   5 / 5
Q2
有可信证据吗   3 / 5
Q3
是新东西吗   1 / 5
总分
9

HuggingFace 原始数据 (抓取于 2026-09-23)

作者
ISTA-DASLab
任务类型
image-text-to-text
推理库
gguf
下载
67,988
点赞
242
许可证
apache-2.0
标签
gguf, gsq, rco, quantization, mixed-precision, ist-daslab, moe, multimodal, vision, image-text-to-text, arxiv:2604.18556, arxiv:2605.00649, base_model:Qwen/Qwen3.8-Flash-Next, base_model:quantized:Qwen/Qwen3.8-Flash-Next, license:apache-2.0, endpoints_compatible, region:us, imatrix, conversational

探索

源链接