模型 / Qwen3.8-27B-MTPLX-Optimized-Speed (Youssofal)

Qwen3.8-27B-MTPLX-Optimized-Speed (Youssofal)

Mac 上 Qwen3.8-27B 4-bit量化

作者 Youssofal

仓库标识Youssofal/Qwen3.8-27B-MTPLX-Optimized-Speed

~16GB 4-bit许可 可商用任务 文本生成最近核对 2026-09-23

仅 safetensors · 无 pickle 加载风险

格式
4-bit
文件
~14GB
运行内存
~16GB–21GB
运行时
MTPLX
下载
48,421

仅 safetensors · 无 pickle 加载风险

Hugging Face 源仓库 ↗

快速上手示例

mtplx serve --model Youssofal/Qwen3.8-27B-MTPLX-Optimized-Speed

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由
Mac(M1/M2,32GB以上)可通过mtplx一键运行Qwen3.8-27B的4-bit量化版,FP16存储,带投机解码提速;适合Apple Silicon本地跑27B的开发者。
对位
对位 Gemma-2-27B / Mistral-Small-3.1-24B
适合
Mac 本地代码生成与补全 / 262k 上下文文档处理
不适合
非 Apple Silicon 或内存<32GB 设备

完整规格

规模
27B · 262k · 下载 ~14GB · 显存最低 ~16GB · 推荐 ~21GB · 4-bit(估算)
授权
apache-2.0 · 可商用
框架
mtplx
血统
量化自 Qwen3.8-27B
访问提示
Hugging Face 可能需要代理

下载动量

30天下载 27.4k → 26.5k · likes +26

观测时间线

模型家族

查看全部家族 →