此页是 2026-08-18 的观测快照,查看该模型当前信息 → /m/lmstudio-community__qwen38-27b-gguf/

归档 / 2026-08-18 / Qwen3.8-27B-GGUF (AtomicChat)

Qwen3.8-27B-GGUF (AtomicChat)

Qwen3.8-27B 量化版,本地图文对话与转写

入选理由: Qwen3.8-27B的多量化GGUF，含视觉投影，可用llama.cpp直接跑，支持图像输入和多token预测，适合本地部署。
对位: 对位 Gemma-3-27B
适合: 本地图文对话与图像转写 / 量化档位对比与低显存部署
不适合: 需 BF16 精度的部署
规模: 27B · 262k · Q4 ~18GB / FP16 ~65GB
授权: unknown · 需自查
框架: llama.cpp
血统: 量化自 Qwen3.8-27B
可信度: HF 下载 57594,93 赞;公开 KL 散度/top-1 对比及复现日志

快速上手示例

llama-server -hf AtomicChat/Qwen3.8-27B-GGUF -hfr Qwen3.8-27B-AD-Q4_K_M.gguf -ngl 99 -c 8192

依赖版本和硬件参数请以源仓库说明为准。

评分详情

Q1: 今天能接上用吗 5 / 5
Q2: 有可信证据吗 3 / 5
Q3: 是新东西吗 1 / 5
总分: 9

HuggingFace 原始数据 (抓取于 2026-08-18)

作者: AtomicChat
任务类型: image-text-to-text
推理库: gguf
下载: 57,594
点赞: 93
许可证: unknown
标签: gguf, llama.cpp, qwen3.8, qwen, imatrix, quantized, conversational, atomic-chat, image-text-to-text, base_model:Qwen/Qwen3.8-27B, base_model:quantized:Qwen/Qwen3.8-27B, endpoints_compatible, region:us

探索