模型 / Qwen3.6-35B-A3B (AutomatosX)

Qwen3.6-35B-A3B (AutomatosX)

Apple Silicon 本地推理的 MLX 6-bit 量化模型

作者 AutomatosX

仓库标识AutomatosX/AX-Qwen3.6-35B-A3B-MLX-AXQ-6bit-MTP

~21GB 4-bit许可可商用任务文本生成最近核对 2026-08-09

格式: 4-bit
文件: ~18GB
运行内存: ~21GB–27GB
运行时: MLX_LM
下载: 182

仅 safetensors · 无 pickle 加载风险

Hugging Face 源仓库 ↗

快速上手示例

mlx_lm.generate --model AutomatosX/AX-Qwen3.6-35B-A3B-MLX-AXQ-6bit-MTP

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由: Apple Silicon 上可直接运行的 MLX 6bit 混合精度量化版 Qwen3.6-35B-A3B，附带 MTP 与视觉侧车权重；约 27GB 下载，适合本地开发测试。
对位: 对位 3B 激活 MoE，如 Qwen2.5-3B 等
适合: Apple Silicon 本地推理 / 通用文本生成与实验
不适合: MTP 加速与 VLM 多模态任务

完整规格

规模: 35.1B · 262k · 下载 ~18GB · 显存最低 ~21GB · 推荐 ~27GB · 4-bit(估算)
授权: Apache-2.0 · 可商用
框架: mlx-lm
血统: 量化自 Qwen3.6-35B-A3B
访问提示: Hugging Face 可能需要代理

下载动量

30天下载 804 → 754

观测时间线

2026-08-09 · 当日卡片 →

模型家族

Qwen3.6-35B-A3B
- 微调 Macaron-V1-Tall (MindLab)
- 量化 Qwen3.6-35B-A3B (AutomatosX)
- 量化 Qwen3.6-35B-A3B (Qwen)
- 量化 Qwen3.6-35B-A3B (andreaborio)
- 量化 Qwen3.6-35B-A3B-Escha-W2 (EschaLabs)
- 量化 Qwen3.6-35B-A3B-GGUF (Unsloth)
- 量化 Qwen3.6-35B-A3B-NVFP4 (NVIDIA)
- 量化 Qwen3.6-35B-A3B-OptiQ-4bit (mlx-community)
- 量化 Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive
  - 量化 Qwen3.6-35B-A3B (LuffyTheFox)
  - 量化 Qwen3.6-35B-A3B (Qwen)
  - 量化 Qwen3.6-35B-A3B-Genesis-Hermes-V5-GGUF (LuffyTheFox)
- 量化 Qwen3.6-35B-A3B-VQ (aquaman164)
- 微调 XYZ-Aquila-mini (XYZAILab)

查看全部家族 →