此页是 2026-07-15 的观测快照,查看该模型当前信息 → /m/mlx-community__qwen35-35b-a3b-optiq-4bit/

归档 / 2026-07-15 / Qwen3.5-35B-A3B (Qwen)

Qwen3.5-35B-A3B (Qwen)

4-bit MLX 量化，Apple Silicon 本地运行文本生成

Apple Silicon
已量化

入选理由: 为Apple Silicon优化的混合精度量化版Qwen3.5-35B-A3B，5分钟即可本地运行，基准略优于均匀4bit。适合Mac用户快速部署。
对位: 对位 Qwen2.5-3B
适合: Apple Silicon 本地大模型推理 / 敏感层 8-bit 保精度的代码/指令任务
不适合: 显存<16GB 设备运行受限
规模: 35B (3B 激活) · 128k · Q4 ~23GB / FP16 ~84GB
授权: apache-2.0 · 需自查
框架: mlx
可信度: 公开6项基准对比，Capability Score 77.42，超统一4-bit 0.5分

快速上手

mlx_lm.generate --model mlx-community/Qwen3.5-35B-A3B-OptiQ-4bit --prompt 'Explain quantum computing.' --max-tokens 200

评分详情

Q1: 今天能接上用吗 5 / 5
Q2: 有可信证据吗 1 / 5
Q3: 是新东西吗 1 / 5
总分: 7

HuggingFace 原始数据 (抓取于 2026-07-15)

作者: mlx-community
任务类型: text-generation
推理库: mlx
下载: 720
点赞: 3
许可证: apache-2.0
标签: mlx, safetensors, qwen3_5_moe, quantized, mixed-precision, 4bit, 8bit, optiq, apple-silicon, text-generation, qwen3.5, conversational, base_model:Qwen/Qwen3.5-35B-A3B, base_model:quantized:Qwen/Qwen3.5-35B-A3B, license:apache-2.0, 4-bit, region:us

探索