模型 / Granite-4.2-8B (IBM)

Granite-4.2-8B (IBM)

Granite 8B MLX 4bit,Mac推理

作者 lmstudio-community

仓库标识lmstudio-community/granite-4.2-8b-GGUF

~8.8GB 8-bit许可 可商用任务 智能体最近核对 2026-08-28

仅 safetensors · 无 pickle 加载风险

格式
4-bit
文件
~4.2GB
运行内存
~4.8GB–6.2GB
运行时
LLAMA-SERVER
下载
151

Hugging Face 源仓库 ↗

快速上手示例

llama-server -hf lmstudio-community/granite-4.2-8b-GGUF

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由
Granite 4.2 8B 的 MLX 4-bit 量化版,Apple 芯片上可直接用 LM Studio 加载,适合本地体验工具调用与多语言能力。
对位
对位 Llama-3-8B / Qwen2.5-7B
适合
Apple Silicon 本地文本生成 / 工具调用与推理任务
不适合
非 Apple Silicon 环境

完整规格

规模
8B · 下载 ~7.7GB · 显存最低 ~8.8GB · 推荐 ~11GB · 8-bit(估算)
授权
apache-2.0 · 可商用
框架
mlx_lm / lmstudio
血统
量化自 granite-4.2-8b
访问提示
Hugging Face 可能需要代理

下载动量

30天下载 325 → 1.8k

观测时间线

模型家族

查看全部家族 →