此页是 2026-07-25 的观测快照,查看该模型当前信息 → /m/mradermacher__grok-3-reasoning-gemma3-4b-distilled-hf-gguf/

归档 / 2026-07-25 / Grok-3-reasoning-gemma3-4B-GGUF (mradermacher)

Grok-3-reasoning-gemma3-4B-GGUF (mradermacher)

Grok-3推理蒸馏Gemma3-4B的GGUF量化版

入选理由: 提供现成GGUF，可直接用llama.cpp/Ollama本地运行Gemma3蒸馏版，适合快速体验推理风格。
对位: 对位 Gemma-3-4B
适合: 本地轻量推理部署 / 实验蒸馏推理能力
不适合: 高精度生产任务
规模: 4B · 未知 · Q4 ~2.6GB / FP16 ~9.6GB
授权: Apache-2.0 · 需自查
框架: llama.cpp / ollama
血统: 量化自 Grok-3-reasoning-gemma3-4B-distilled-HF
可信度: 由mradermacher量化，提供Q2_K至f16共11种量化级别

快速上手示例

ollama run hf.co/mradermacher/Grok-3-reasoning-gemma3-4B-distilled-HF-GGUF

依赖版本和硬件参数请以源仓库说明为准。

评分详情

Q1: 今天能接上用吗 5 / 5
Q2: 有可信证据吗 1 / 5
Q3: 是新东西吗 1 / 5
总分: 7

HuggingFace 原始数据 (抓取于 2026-07-25)

作者: mradermacher
任务类型: unknown
推理库: transformers
下载: 585
点赞: 7
许可证: Apache-2.0
标签: transformers, gguf, text-generation-inference, unsloth, gemma3, en, base_model:mfielding92/Grok-3-reasoning-gemma3-4B-distilled-HF, base_model:quantized:mfielding92/Grok-3-reasoning-gemma3-4B-distilled-HF, license:apache-2.0, endpoints_compatible, region:us, conversational

探索