此页是 2026-09-23 的观测快照,查看该模型当前信息 → /m/youssofal__qwen38-27b-mtplx-optimized-speed/

归档 / 2026-09-23 / Qwen3.8-27B FP16 (Youssofal)

Qwen3.8-27B FP16 (Youssofal)

MTPLX 4-bit动态量化，Mac M1/M2 FP16 构建

  • MLX
  • 已量化
入选理由
Mac(M1/M2,32GB以上)可通过mtplx一键运行Qwen3.8-27B的4-bit量化版,FP16存储,带投机解码提速;适合Apple Silicon本地跑27B的开发者。
对位
对位 Gemma-2-27B / Mistral-Small-3.1-24B
适合
Mac 本地代码生成与补全 / 262k 上下文文档处理
不适合
非 Apple Silicon 或内存<32GB 设备
规模
27B · 262k · Q4 ~18GB / FP16 ~65GB
授权
apache-2.0 · 需自查
框架
mtplx
血统
量化自 Qwen3.8-27B
可信度
HF 下载量 7.8k，card 附 MTPLX 2.11.3 实测与 FP16 转换清单

仅 safetensors · 无 pickle 加载风险

评分详情

Q1
今天能接上用吗   5 / 5
Q2
有可信证据吗   1 / 5
Q3
是新东西吗   1 / 5
总分
7

HuggingFace 原始数据 (抓取于 2026-09-23)

作者
Youssofal
任务类型
text-generation
推理库
mtplx
下载
7,876
点赞
20
许可证
apache-2.0
标签
mtplx, safetensors, qwen3_5, mlx, apple-silicon, macos, m1, m2, fp16, speculative-decoding, multi-token-prediction, qwen, qwen3.8, mtp, local-ai, coding, qwen3-8, qwen-3.8, local-llm, llm, m5, m5-max, m4, m3, macbook-pro, mac-studio, opencode, claude-code, 27b, qwen3.8-27b, qwen3-8-27b, text-generation, conversational, base_model:Qwen/Qwen3.8-27B, base_model:quantized:Qwen/Qwen3.8-27B, license:apache-2.0, 4-bit, region:us

探索

源链接