此页是 2026-09-04 的观测快照,查看该模型当前信息 → /m/youssofal__qwen38-27b-mtplx-optimized-quality/

归档 / 2026-09-04 / Qwen3.8-27B MTPLX (Youssofal)

Qwen3.8-27B MTPLX (Youssofal)

Mac 上 8-bit 量化 Qwen3.8 27B（MTP 加速）

MLX
已量化

入选理由: Qwen3.8-27B的8bit MLX量化版,保留MTP投机解码;适合36GB内存Mac用户本地跑高质量生成。
对位: 对位 Gemma-2-27B、Qwen3-32B 等 27B–32B 开源模型
适合: Mac 本地高质量文本生成 / 代码生成与长上下文推理
不适合: 少于 36GB 统一内存的 Mac
规模: 27B · 262k · Q4 ~18GB / FP16 ~66GB
授权: Apache-2.0 · 需自查
框架: mlx / mtplx
血统: 量化自 Qwen3.8-27B
可信度: HF 下载 23.3k，点赞 48；模型卡提供 M5 Max 实测速度与 KL=0.00105

仅 safetensors · 无 pickle 加载风险

快速上手示例

mtplx serve --model Youssofal/Qwen3.8-27B-MTPLX-Optimized-Quality

依赖版本和硬件参数请以源仓库说明为准。

评分详情

Q1: 今天能接上用吗 5 / 5
Q2: 有可信证据吗 3 / 5
Q3: 是新东西吗 1 / 5
总分: 9

HuggingFace 原始数据 (抓取于 2026-09-04)

作者: Youssofal
任务类型: text-generation
推理库: mlx
下载: 23,350
点赞: 48
许可证: Apache-2.0
标签: mlx, safetensors, qwen3_5, apple-silicon, macos, speculative-decoding, multi-token-prediction, qwen, qwen3.8, mtp, mtplx, local-ai, coding, text-generation, conversational, base_model:Qwen/Qwen3.8-27B, base_model:quantized:Qwen/Qwen3.8-27B, license:apache-2.0, 8-bit, region:us

探索