模型 / Qwen3.6-35B-A3B-VQ-3.8bpw (TheDrainFlorist)

Qwen3.6-35B-A3B-VQ-3.8bpw (TheDrainFlorist)

Apple Silicon VQ量化 Qwen3.6-35B-A3B

作者 TheDrainFlorist

仓库标识TheDrainFlorist/Qwen3.6-35B-A3B-VQ-3.8bpw

显存未知许可 可商用任务 文本生成最近核对 2026-09-07
运行内存
格式线索互相矛盾(含估算映射未支持的位宽),无法估算显存
运行时
PYTHON
下载
1,012

仅 safetensors · 无 pickle 加载风险

Hugging Face 源仓库 ↗

快速上手示例

python -m mlx_lm generate --model TheDrainFlorist/Qwen3.6-35B-A3B-VQ-3.8bpw

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由
Qwen3.6-35B-A3B 的 MLX 向量量化版,15.7GiB 可在 Apple Silicon 上用 mlx-lm 直接跑,比社区 4-bit 更小且 KL 更低,适合 24GB 内存机器。
适合
Apple Silicon 本地运行 35B MoE / 低显存占用文本生成
不适合
对精确 token 敏感的任务

完整规格

规模
35B-A3B · 格式线索互相矛盾(含估算映射未支持的位宽),无法估算显存
授权
Apache-2.0 · 可商用
框架
mlx
血统
量化自 Qwen3.6-35B-A3B
访问提示
Hugging Face 可能需要代理

下载动量

30天下载 1.5k → 2k

观测时间线

模型家族

查看全部家族 →