模型 / Qwen3.8-27B-MTPLX-Optimized-Speed (Youssofal)

Qwen3.8-27B-MTPLX-Optimized-Speed (Youssofal)

Mac 上 Qwen3.8-27B 4-bit量化

作者 Youssofal

仓库标识Youssofal/Qwen3.8-27B-MTPLX-Optimized-Speed

~16GB 4-bit许可 可商用任务 文本生成最近核对 2026-08-28
格式
4-bit
文件
~14GB
运行内存
~16GB–21GB
运行时
MTPLX
下载
48,421

仅 safetensors · 无 pickle 加载风险

Hugging Face 源仓库 ↗

快速上手示例

mtplx serve --model Youssofal/Qwen3.8-27B-MTPLX-Optimized-Speed

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由
Qwen3.8-27B 的 MLX 4-bit 量化版,保留 MTP 推测解码,在 Mac 上通过 mtplx serve 即可获得 OpenAI 兼容接口,适合本地 coding。
对位
对位 Gemma-2-27B / Qwen3-32B
适合
Mac 本地代码生成 / Apple Silicon 长上下文推理
不适合
低内存 Mac 或无损质量需求

完整规格

规模
27B · 262k · 下载 ~14GB · 显存最低 ~16GB · 推荐 ~21GB · 4-bit(估算)
授权
apache-2.0 · 可商用
框架
mlx / mtplx
血统
量化自 Qwen3.8-27B
访问提示
Hugging Face 可能需要代理

下载动量

30天下载 48.4k → 61.3k

观测时间线

模型家族

查看全部家族 →