归档 / 2026-05-21 / Granite-4.1-30B (IBM)

Granite-4.1-30B (IBM)

IBM Granite 30B GGUF量化, 本地部署与推理

部署

py LM Studio: 搜索 'granite-4.1-30b' 直接下载
py llama.cpp: huggingface-cli download lmstudio-community/granite-4.1-30b-GGUF --include '*.gguf' --local-dir . && ./llama-cli -m <file>

入选理由: 有GGUF格式可直接运行，但下载量低且无第三方证据，仅量化重打包非新模型
对位: 对位Qwen2.5-32B等30B级开源模型
适合: 本地推理与微调基线 / 通用文本生成与对话
不适合: 需高精度、无损推理的任务
规模: 30B · 未知
授权: Apache 2.0
框架: llama.cpp / LM Studio
可信度: HF下载量982, 基于IBM Granite官方模型, Apache 2.0许可, llama.cpp b8994量化

评分详情

Q1: 今天能接上用吗 5 / 5
Q2: 有可信证据吗 1 / 5
Q3: 是新东西吗 1 / 5
总分: 7

HuggingFace 原始数据 (抓取于 2026-05-21)

作者: lmstudio-community
任务类型: unknown
推理库: 未指定
下载: 982
点赞: 0
许可证: Apache 2.0
标签: gguf, base_model:ibm-granite/granite-4.1-30b, base_model:quantized:ibm-granite/granite-4.1-30b, license:apache-2.0, endpoints_compatible, region:us, conversational

探索