模型 / Qwen3.8-27B-VQ (TheDrainFlorist)

Qwen3.8-27B-VQ (TheDrainFlorist)

Apple Silicon 用 Qwen3.8-27B 量化版

作者 TheDrainFlorist

仓库标识TheDrainFlorist/Qwen3.8-27B-VQ-3.9bpw

显存未知许可 可商用任务 文本生成最近核对 2026-09-06
运行内存
格式线索互相矛盾(含估算映射未支持的位宽),无法估算显存
运行时
PYTHON
下载
1,246

仅 safetensors · 无 pickle 加载风险

Hugging Face 源仓库 ↗

快速上手示例

python -m mlx_lm generate --model TheDrainFlorist/Qwen3.8-27B-VQ-3.9bpw --prompt "Explain vector quantization briefly." --max-tokens 512

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由
Qwen3.8-27B 的向量量化版,12.5GiB 可在 Apple Silicon 上本地运行,mlx-lm 即装即用;但仅限苹果生态,且为量化重打包,无新能力。
对位
对位 Gemma-3-27B
适合
Apple Silicon 本地低内存推理 / 低体积下与 bf16 近似的文本生成
不适合
需任务评测分数的场景

完整规格

规模
27B · 格式线索互相矛盾(含估算映射未支持的位宽),无法估算显存
授权
Apache-2.0 · 可商用
框架
mlx-lm
血统
量化自 Qwen3.8-27B
访问提示
Hugging Face 可能需要代理

下载动量

30天下载 1.7k → 2.4k

观测时间线

模型家族

查看全部家族 →