无审查9B多模态模型，提升推理与指令跟随
适合推理与复杂指令任务 / 创意写作与角色扮演
短板需要内容过滤的安全场景
Q4 ~5.9GB / FP16 ~22GB · Apache 2.0 · 256k · llama.cpp需自查
证据41.3k 下载 / 58 赞
本期 (4)
27B 开源代理模型，面向代理编程与结构化工具调用
适合编程调试与仓库代理 / 结构化工具调用与多轮恢复
短板通用闲聊或无需工具的短任务
Q4 ~18GB / FP16 ~65GB · Apache-2.0 · 262k · transformers需自查
证据121 下载 / 56 赞
Grok-3推理蒸馏Gemma3-4B的GGUF量化版
适合本地轻量推理部署 / 实验蒸馏推理能力
短板高精度生产任务
Q4 ~2.6GB / FP16 ~9.6GB · Apache-2.0 · 未知 · llama.cpp需自查
证据585 下载 / 7 赞
poolside 代码模型，GGUF 量化版，适用于本地运行
适合本地代码生成 / 低成本推理
短板高精度要求任务
未知 · openmdw-1.1 · 未知 · llama.cpp需自查
证据215 下载 / 1 赞