模型 / Granite-4.2-30B-MLX-6bit (LM Studio)

Granite-4.2-30B-MLX-6bit (LM Studio)

IBM 30B MLX 6bit 量化,Mac 用

作者 lmstudio-community

仓库标识lmstudio-community/granite-4.2-30b-MLX-6bit

~18GB 4-bit许可 可商用任务 智能体最近核对 2026-08-29
格式
4-bit
文件
~16GB
运行内存
~18GB–23GB
运行时
MLX_LM
下载
166

仅 safetensors · 无 pickle 加载风险

Hugging Face 源仓库 ↗

快速上手示例

mlx_lm.generate --model lmstudio-community/granite-4.2-30b-MLX-6bit --prompt "Hello"

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由
Granite 4.2 的 6-bit MLX 量化版,专为 Apple Silicon 优化,可直接在 LM Studio 加载运行,适合 Mac 用户本地体验 IBM 最新推理与工具调用模型。
对位
对位 Gemma-3-27B/Qwen2.5-32B
适合
Apple 芯片 Mac 本地推理 / 工具调用 / 推理文本生成
不适合
非 Apple Silicon 环境

完整规格

规模
30B · 下载 ~16GB · 显存最低 ~18GB · 推荐 ~23GB · 4-bit(估算)
授权
apache-2.0 · 可商用
框架
mlx
血统
量化自 granite-4.2-30b
访问提示
Hugging Face 可能需要代理

下载动量

30天下载 59 → 309

观测时间线

模型家族

查看全部家族 →