Granite-4.2-3B-MLX-6bit (IBM)

Granite 4.2 3B MLX 6bit 量化，本地推理

仓库标识lmstudio-community/granite-4.2-3b-MLX-6bit

~2.2GB 4-bit许可可商用任务智能体最近核对 2026-09-04

仅 safetensors · 无 pickle 加载风险

快速上手示例

mlx_lm.generate --model lmstudio-community/granite-4.2-3b-MLX-6bit

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由: IBM Granite 4.2 3B的MLX 6bit量化版，可在Apple Silicon上本地运行，支持多语言、推理与工具调用，适合macOS用户快速部署。
对位: 对位 Llama-3.2-3B、Qwen2.5-3B
适合: Apple Silicon 本地推理 / 工具调用与思维链测试
不适合: 高吞吐生产服务

30天下载 19 → 115

granite-4.2-3b
- 量化 Granite-4.2-3B-MLX-6bit (IBM)
- 量化 Granite-4.2-3B-MLX-8bit (LM Studio)