此页是 2026-08-28 的观测快照,查看该模型当前信息 → /m/lmstudio-community__granite-42-8b-gguf/

归档 / 2026-08-28 / Granite-4.2-8B-MLX-4bit (LM Studio)

Granite-4.2-8B-MLX-4bit (LM Studio)

Granite 8B MLX 4bit，Mac推理

MLX
已量化

入选理由: Granite 4.2 8B 的 MLX 4-bit 量化版，Apple 芯片上可直接用 LM Studio 加载，适合本地体验工具调用与多语言能力。
对位: 对位 Llama-3-8B / Qwen2.5-7B
适合: Apple Silicon 本地文本生成 / 工具调用与推理任务
不适合: 非 Apple Silicon 环境
规模: 8B · 未知 · Q4 ~5.3GB / FP16 ~19GB
授权: apache-2.0 · 需自查
框架: mlx_lm / lmstudio
血统: 量化自 granite-4.2-8b
可信度: 原模型 Apache-2.0；LM Studio MLX 量化；下载 148

仅 safetensors · 无 pickle 加载风险

快速上手示例

mlx_lm.generate --model lmstudio-community/granite-4.2-8b-MLX-4bit --prompt 'Hello'

依赖版本和硬件参数请以源仓库说明为准。

评分详情

Q1: 今天能接上用吗 5 / 5
Q2: 有可信证据吗 1 / 5
Q3: 是新东西吗 1 / 5
总分: 7

HuggingFace 原始数据 (抓取于 2026-08-28)

作者: lmstudio-community
任务类型: text-generation
推理库: transformers
下载: 148
点赞: 0
许可证: apache-2.0
标签: transformers, safetensors, granite, text-generation, granite-4.2, reasoning, thinking, tool-calling, ibm, mlx, conversational, en, de, es, fr, ja, pt, ar, cs, it, ko, nl, zh, base_model:ibm-granite/granite-4.2-8b, base_model:quantized:ibm-granite/granite-4.2-8b, license:apache-2.0, endpoints_compatible, 4-bit, region:us

探索