模型 / Qwen3.8-35B-A3B-Distill MLX-NanoPlus (IsValorum)

Qwen3.8-35B-A3B-Distill MLX-NanoPlus (IsValorum)

Apple Silicon 本地 MLX 混合精度 MoE

作者 IsValorum

仓库标识IsValorum/Qwen3.8-35B-A3B-Distill-MLX-APEX-NanoPlus-Abliterated

~17GB 3-bit许可 可商用任务 文本生成最近核对 2026-10-09
格式
3-bit
文件
~15GB
运行内存
~17GB–22GB
运行时
MLX_LM
下载
1,263

仅 safetensors · 无 pickle 加载风险

Hugging Face 源仓库 ↗

快速上手示例

mlx_lm.generate --model IsValorum/Qwen3.8-35B-A3B-Distill-MLX-APEX-NanoPlus-Abliterated --prompt "Hello"

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由
Qwen3.8-35B MoE 的 MLX 量化去审查版,可 mlx-lm 一行跑起,适合 Apple Silicon 本地对话;本质是量化重打包,无新增能力。
对位
对位 Qwen3-4B / Llama-3.2-3B
适合
Apple Silicon 本地长上下文生成 / 低拒绝率对话与角色生成
不适合
非 Apple Silicon 环境

完整规格

规模
35B(3B 激活) · 256k · 下载 ~15GB · 显存最低 ~17GB · 推荐 ~22GB · 3-bit(估算)
授权
Apache-2.0 · 可商用
框架
mlx
血统
量化自 Qwen3.8-35B-A3B-Distill
访问提示
Hugging Face 可能需要代理

下载动量

30天下载 1.7k → 2k

观测时间线

模型家族

查看全部家族 →