此页是 2026-10-11 的观测快照,查看该模型当前信息 → /m/jetbrains__mellum21-12b-a25b-thinking/

归档 / 2026-10-11 / Mellum2.1-12B-A2.5B-Thinking (JetBrains)

Mellum2.1-12B-A2.5B-Thinking (JetBrains)

12B MoE 思考模型，面向代码仓库与工具调用

入选理由: Mellum2.1 是 JetBrains 的 12B MoE 推理模型，可在 vLLM 起 OpenAI 兼容服务，SWE-bench 47，适合本地 agentic 编码/工具调用，需约 24GB 显存。
对位: 对位 Qwen3-4B / Gemma 4 E4B
适合: 代码仓库编辑与调试 / 工具调用与多步推理
不适合: 低延迟简单闲聊
规模: 12B 总 / 2.5B 激活 · 131k · Q4 ~7.9GB / FP16 ~29GB
授权: Apache 2.0 · 需自查
框架: vllm
工具调用: Hermes 风格 function calling
血统: 微调自 Mellum2-12B-A2.5B-Base
可信度: JetBrains 官方发布，Apache 2.0；模型卡列 16 项基准自测

仅 safetensors · 无 pickle 加载风险

快速上手示例

vllm serve JetBrains/Mellum2.1-12B-A2.5B-Thinking --max-model-len 131072 --reasoning-parser qwen3

依赖版本和硬件参数请以源仓库说明为准。

评分详情

Q1: 今天能接上用吗 4 / 5
Q2: 有可信证据吗 1 / 5
Q3: 是新东西吗 3 / 5
总分: 8

HuggingFace 原始数据 (抓取于 2026-10-11)

作者: JetBrains
任务类型: text-generation
推理库: transformers
下载: 583
点赞: 92
许可证: Apache 2.0
标签: transformers, safetensors, mellum, text-generation, conversational, en, arxiv:2605.31268, base_model:JetBrains/Mellum2-12B-A2.5B-Base, base_model:finetune:JetBrains/Mellum2-12B-A2.5B-Base, license:apache-2.0, model-index, endpoints_compatible, region:us

探索