gemma-4-98e-coderx-GGUF (ManniX-ITA)

独立证据与社区反馈

8 个独立来源 · 另 2 官方/转载最近验证 2026-08-09

社区整体口碑偏向「本地能跑、编程能打」:在难刷榜的一次性编程评测里得分接近 GPT 5.2 与 Gemini 3 Pro Preview,GGUF 走 llama.cpp 在消费级硬件(中端 PC + 3090)上体验不错,也有玩家对比 GLM 4.7 后觉得更好用。反复出现的共识是量化别低于 Q4_K_M(Q3/3-bit 明显掉质量),Q4_K_M 在文件体积与性能间平衡最好;短板集中在 agentic 编程、非编程能力与偶发的代码语法错误。

• 一次性/单轮编程任务:在难刷榜的一次性编程评测中得分接近 GPT 5.2 和 Gemini 3 Pro Preview
• 本地部署需求:GGUF 在消费级硬件上可运行,中端 PC + 3090 上体验良好
• 角色卡/创意交互:加入内省独白后与角色卡互动体验愉悦
• Mac 用户:GGUF 借 llama.cpp 对 Metal 的支持已经追上 MLX
• 量化选型:Q4_K_M 在文件大小与性能之间平衡好,被视为默认选择
• 开箱即用的社区量化包:unsloth 等提供的 GGUF 被反馈「很好用」

• 代码输出偶发低级语法错误(多余右括号/括号对、用逗号分隔函数定义),需手动修正
• agentic 编程与非编程两个评测段表现偏弱
• 硬件门槛:密集大参数版若不能整体放入显存会明显变慢,新手容易误判配置
• 低于 Q3/3-bit 的量化质量明显退化,生产使用建议 Q4_K_M 或更高
• 量化包跑分与论文报告存在约 2pp 差距,属于 llama-server 模板与 vLLM 设置的差异而非量化缺陷,复现时需留意
• 工具调用与 agentic 用法需要自行调参,社区仍在互相交流参数经验

• 社区实测I ran Gemma 4 as a local model in Codex CLI | Hacker News
• 社区实测Gemma 4 12B: A unified, encoder-free multimodal model | Hacker News
• 社区实测Have you tried the Gemma 4 series, out of curiosity? | Hacker News
• 社区实测r/unsloth: question about the gguf versions of gemma 4
• 社区实测r/LocalLLaMA: Gemma 4 - MLX doesn't seem better than GGUF
• 社区实测r/LocalLLM: Any good alternatives to gemma-4-E4B?
• 社区实测r/SillyTavernAI: Gemma-4 is really good?!
• 社区实测Google releases Gemma 4 open models | Hacker News
• 官方/厂商ManniX-ITA/gemma-4-A4B-98e-v7-coderx-it · Hugging Face
• 官方/厂商ManniX-ITA/gemma-4-A4B-98e-v6-coder-it-GGUF · Hugging Face

可信度Q6_K 实测 HE+ 92.68%, LCB-100 99%, 下载 2.6 万