此页是 2026-09-19 的观测快照,查看该模型当前信息 → /m/mradermacher__guru-32b-i1-gguf/

归档 / 2026-09-19 / guru-32B-i1-GGUF (IFM)

guru-32B-i1-GGUF (IFM)

32B 模型 i1 加权 GGUF 量化，面向本地推理

入选理由: guru-32B 的 GGUF 量化版，支持 Ollama/llama.cpp 直接运行，适合本地部署，但许可证非商业用途，需注意。
对位: 对位 Qwen2.5-32B / Gemma-2-27B
适合: 本地低比特量化推理 / CPU / 小显存 GPU 部署
不适合: 高精度生产级生成
规模: 32B · 未知 · Q4 ~21GB / FP16 ~77GB
授权: cc-by-nc-4.0 · 需自查
框架: llama.cpp / ollama
血统: 量化自 guru-32B
可信度: 下载量 414；23 个 i1 量化档位，IQ1_S 至 Q6_K，许可 cc-by-nc-4.0

快速上手示例

llama-server -hf mradermacher/guru-32B-i1-GGUF

依赖版本和硬件参数请以源仓库说明为准。

评分详情

Q1: 今天能接上用吗 5 / 5
Q2: 有可信证据吗 1 / 5
Q3: 是新东西吗 1 / 5
总分: 7

HuggingFace 原始数据 (抓取于 2026-09-19)

作者: mradermacher
任务类型: unknown
推理库: transformers
下载: 414
点赞: 0
许可证: cc-by-nc-4.0
标签: transformers, gguf, en, base_model:IFM/guru-32B, base_model:quantized:IFM/guru-32B, license:cc-by-nc-4.0, endpoints_compatible, region:us, imatrix, conversational

探索