模型 / Qwen3.8-35B-A3B-Distill (IsValorum)

Qwen3.8-35B-A3B-Distill (IsValorum)

Mac 本地运行 Qwen3.8 MoE 量化

作者 IsValorum

仓库标识IsValorum/Qwen3.8-35B-A3B-Distill-MLX-APEX-MiniPlus-Abliterated

~21GB 4-bit许可 可商用任务 文本生成最近核对 2026-10-09
格式
4-bit
文件
~18GB
运行内存
~21GB–27GB
运行时
MLX_LM
下载
1,801

仅 safetensors · 无 pickle 加载风险

Hugging Face 源仓库 ↗

快速上手示例

mlx_lm.generate --model IsValorum/Qwen3.8-35B-A3B-Distill-MLX-APEX-MiniPlus-Abliterated --prompt "Hello"

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由
Mac 用户可用 mlx-lm 本地跑，19.9GB 权重，Qwen3.8 MoE 去审查版；适合在 Apple Silicon 上试玩。
对位
对位 3B 激活开源模型，如 Qwen3-4B
适合
Mac 本地长上下文生成 / 需少拒答的文本生成
不适合
超长生成，上游已知重复

完整规格

规模
35B / 3B 激活 · 262k · 下载 ~18GB · 显存最低 ~21GB · 推荐 ~27GB · 4-bit(估算)
授权
apache-2.0 · 可商用
框架
mlx
血统
量化自 Qwen3.8-35B-A3B-Distill
访问提示
Hugging Face 可能需要代理

下载动量

30天下载 2.6k → 3.6k

观测时间线

模型家族

查看全部家族 →