模型 / Granite-4.2-3B-MLX-8bit (LM Studio)

Granite-4.2-3B-MLX-8bit (LM Studio)

IBM Granite 3B MLX 量化,苹果芯片推理

作者 lmstudio-community

仓库标识lmstudio-community/granite-4.2-3b-MLX-8bit

~1.1GB 8-bit许可 可商用任务 智能体最近核对 2026-08-29

仅 safetensors · 无 pickle 加载风险

格式
8-bit
文件
~1GB
运行内存
~1.1GB–1.5GB
运行时
MLX_LM
下载
196

仅 safetensors · 无 pickle 加载风险

Hugging Face 源仓库 ↗

快速上手示例

mlx_lm.generate --model lmstudio-community/granite-4.2-3b-MLX-8bit

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由
granite-4.2-3b的MLX 8-bit量化版,Apple Silicon用户可在LM Studio中直接运行,适合工具调用与多语言任务。
对位
对位 Qwen2.5-3B / Llama-3.2-3B
适合
苹果芯片本地 3B 推理 / 多语言推理与工具调用原型
不适合
需要高精度、长上下文的生产任务

完整规格

规模
3B · 下载 ~1GB · 显存最低 ~1.1GB · 推荐 ~1.5GB · 8-bit(估算)
授权
apache-2.0 · 可商用
框架
mlx_lm / lmstudio
血统
量化自 granite-4.2-3b
访问提示
Hugging Face 可能需要代理

下载动量

30天下载 73 → 501

观测时间线

模型家族

查看全部家族 →