此页是 2026-08-29 的观测快照,查看该模型当前信息 → /m/lmstudio-community__granite-42-3b-mlx-8bit/

归档 / 2026-08-29 / Granite-4.2-3B-MLX-8bit (LM Studio)

Granite-4.2-3B-MLX-8bit (LM Studio)

IBM Granite 3B MLX 量化,苹果芯片推理

  • MLX
  • 已量化
入选理由
granite-4.2-3b的MLX 8-bit量化版,Apple Silicon用户可在LM Studio中直接运行,适合工具调用与多语言任务。
对位
对位 Qwen2.5-3B / Llama-3.2-3B
适合
苹果芯片本地 3B 推理 / 多语言推理与工具调用原型
不适合
需要高精度、长上下文的生产任务
规模
3B · 未知 · Q4 ~0.7GB / FP16 ~2.5GB
授权
apache-2.0 · 需自查
框架
mlx_lm / lmstudio
血统
量化自 granite-4.2-3b
可信度
Apache-2.0;源模型 IBM Granite 4.2 3B;HF 下载 196

仅 safetensors · 无 pickle 加载风险

快速上手示例

mlx_lm.generate --model lmstudio-community/granite-4.2-3b-MLX-8bit

依赖版本和硬件参数请以源仓库说明为准。

评分详情

Q1
今天能接上用吗   5 / 5
Q2
有可信证据吗   1 / 5
Q3
是新东西吗   1 / 5
总分
7

HuggingFace 原始数据 (抓取于 2026-08-29)

作者
lmstudio-community
任务类型
text-generation
推理库
transformers
下载
196
点赞
0
许可证
apache-2.0
标签
transformers, safetensors, granite, text-generation, granite-4.2, reasoning, thinking, tool-calling, ibm, mlx, conversational, en, de, es, fr, ja, pt, ar, cs, it, ko, nl, zh, base_model:ibm-granite/granite-4.2-3b, base_model:quantized:ibm-granite/granite-4.2-3b, license:apache-2.0, endpoints_compatible, 8-bit, region:us

探索

源链接