gemma-4-98e-coderx-GGUF (ManniX-ITA)
LCB-medium 99%，12GB 级代码专家量化包
社区实测
Gemma 4 26B-A4B 在同参数级中编码能力突出、推理速度快且内存占用低，但作为 agent 时容易卡死或产生大量低级错误，社区口碑两极分化；ManniX-ITA 的 GGUF 量化版本降低了部署门槛，但对温度和量化等级敏感。
- E4B 量化版仅需约 6GB RAM 即可运行，极大降低本地部署门槛
- 26B-A4B 在 15GB VRAM 下可达 138 tok/s，速度约为 12B 的 1.7 倍
- 多语言能力强，在德语、阿拉伯语、越南语、法语等非英语任务上优于 Qwen 3.5
- E2B 有效参数 2.3B 的模型在多数 benchmark 上超过 Gemma 3 27B
- 一次性编码问题得分接近 GPT 5.2 和 Gemini 3 Pro Preview
- 对话和故事创作自然、有创造力，语言使用比 GPT-4 更自然
- Apache 2.0 许可证消除了此前 Gemma 系列自定义许可证的使用限制顾虑
- 12B QAT 量化版在创意写作场景表现最佳
- 26B 是首个让用户在本地运行时感到'无怪异行为、直接好用'的模型
- ManniX-ITA 提供从 IQ2_S(7.83GB) 到 Q6_K 的多档 GGUF 量化，Q3_K_M 为性价比最优档
- 作为 coding agent 时在 Claude Code、Zed、OpenCode ACP 中均出现长时间卡死或超时
- 高温度(1.0)下编码输出充满低级错误，需将 temperature 降至 0.3 或更低
- 4-bit 量化版本会遗漏 tool use 调用并陷入错误参数循环
- 使用工具和自定义 harness 写代码时表现反而比一次性生成更差
- MoE 26B-A4B 推理速度明显慢于 Qwen 3.5 同级别 MoE 模型
- 12B 模型开启 thinking mode 时 VRAM 不足，需关闭才能运行
- 社区评价两极分化严重，有用户称其为'用过最差的模型'
I ran Gemma 4 as a local model in Codex CLI - Hacker NewsIs Google's Gemma 4 really as good as advertised : r/artificialTested Gemma 4 as a local coding agent on M5 Pro. It failed. Then I found what actually works. : r/vibecodingGemma-4-26B-A4B-it-UD-Q4_K_M.gguf : IMHO worst model ever ...Tested Gemma 4 (12B QAT & Q4_K_M & E4B). Here's what ... - RedditGemma 4 26b is the perfect all around local model and I'm surprised ...New Google Gemma 4 12B Claims Near-26B Performance - RedditGemma 4 After 24 Hours: What the Community Found vs What ...mannix/gemma4-98e-v6-coderGemma 4 E4B is amazing! The 4-bit GGUF can web-search, execute ...
截至 2026-06-21
快速上手
ollama pull mannix/gemma4-98e-v7-coderx:Q4_K_M