Granite-4.2-30B (IBM)
Granite 30B MLX 8-bit，本地推理
仓库标识ibm-granite/granite-4.2-30b
~32GB 8-bit许可 可商用任务 智能体最近核对 2026-08-28
仅 safetensors · 无 pickle 加载风险
- 格式
- 4-bit
- 文件
- ~15GB
- 运行内存
- ~18GB–23GB
- 运行时
- VLLM
- 下载
- 1,791
仅 safetensors · 无 pickle 加载风险
快速上手示例
vllm serve ibm-granite/granite-4.2-30b 依赖版本和硬件参数请以源仓库说明为准。
- 格式
- 4-bit
- 文件
- ~16GB
- 运行内存
- ~18GB–23GB
- 运行时
- LLAMA-SERVER
- 下载
- 167
快速上手示例
llama-server -hf lmstudio-community/granite-4.2-30b-GGUF 依赖版本和硬件参数请以源仓库说明为准。
- 格式
- 4-bit
- 文件
- ~16GB
- 运行内存
- ~18GB–23GB
- 运行时
- MLX_LM
- 下载
- 154
仅 safetensors · 无 pickle 加载风险
快速上手示例
mlx_lm.generate --model lmstudio-community/granite-4.2-30b-MLX-4bit 依赖版本和硬件参数请以源仓库说明为准。
- 格式
- 8-bit
- 文件
- ~7.9GB
- 运行内存
- ~9.1GB–12GB
- 运行时
- MLX_LM
- 下载
- 137
仅 safetensors · 无 pickle 加载风险
快速上手示例
mlx_lm.generate --model lmstudio-community/granite-4.2-30b-MLX-8bit 依赖版本和硬件参数请以源仓库说明为准。
适合与不适合
完整规格
下载动量
30天下载 1.8k → 5.2k
观测时间线
模型家族
- Granite-4.2-30B (IBM)