此页是 2026-06-05 的观测快照,查看该模型当前信息 → /m/jetbrains__mellum2-12b-a25b-instruct/

归档 / 2026-06-05 / Mellum2-12B-A2.5B-Instruct (JetBrains)

Mellum2-12B-A2.5B-Instruct (JetBrains)

直接回答的指令模型，用于交互聊天、代码和工具调用

入选理由: JetBrains的MoE模型，Apache-2.0许可，上下文131k，需自行部署。
对位: 对位 Ministral 3 14B、Qwen3.5-9B 等指令模型
适合: 交互式聊天与代码辅助 / 工具调用与指令跟随
不适合: 需显式推理的多步代理流
规模: 12B (2.5B active) · 131k · Q4 ~8GB / FP16 ~29GB
授权: apache-2.0 · 可商用
框架: vllm / transformers
可信度: 1418下载，48赞；LiveCodeBench v6 37.2%，EvalPlus 78.4%，BFCL v4 44.2%

仅 safetensors · 无 pickle 加载风险

社区实测

社区实测样本偏少,现有反馈认为其在代码与业务类任务上表现扎实,但对其通用场景与 IDE 外适配仍存疑虑

以 2.5B 活跃参数的 MoE 架构提供低延迟的本地代码辅助与工具调用
在业务、邮件、代码等任务上获得 8.62/10 的综合评分

社区实测量不足,缺乏大规模独立验证
有反馈称其在 JetBrains IDE 之外体验不佳

来源

JetBrains/Mellum2-12B-A2.5B-Instruct · Hugging Face JetBrains Releases Mellum2: A 12B MoE Model for Fast, Specialized Tasks in Multi-Model AI Pipelines - MarkTechPost Mellum 2 12B A2.5B : r/LocalLLaMA - Reddit Jetbrains' Mellum2 is the best low resources local coding agent LLM.r/LocalLLaMA - JetBrains open-sources Mellum2 - anyone tried these?

截至 2026-06-19

快速上手示例

vllm serve JetBrains/Mellum2-12B-A2.5B-Instruct --max-model-len 131072

依赖版本和硬件参数请以源仓库说明为准。

评分详情

Q1: 今天能接上用吗 3 / 5
Q2: 有可信证据吗 1 / 5
Q3: 是新东西吗 5 / 5
总分: 9

HuggingFace 原始数据 (抓取于 2026-06-05)

作者: JetBrains
任务类型: text-generation
推理库: transformers
下载: 1,418
点赞: 48
许可证: apache-2.0
标签: transformers, safetensors, mellum, text-generation, conversational, en, arxiv:2605.31268, license:apache-2.0, model-index, eval-results, endpoints_compatible, region:us

探索