K2-Horizon-MoVA-36B-A4B (IFM)
36B MoE 开源模型,4B 激活,面向 agent/推理
- 入选理由
- 36B 总参、4B 激活的 MoE,引入 MoVA 注意力,512K 上下文;vLLM/SGLang 可直接部署,需多卡。
- 对位
- 对位 Qwen3.6-35B-A3B 等开源 MoE
- 适合
- agentic 工具调用 / 长上下文推理与编码
- 不适合
- 单张消费级显卡本地部署
- 规模
- 36B (4B 激活) · 512k · Q4 ~25GB / FP16 ~90GB
- 授权
- apache-2.0 · 需自查
- 框架
- vllm / sglang / transformers
- 工具调用
- k2_horizon tool-call parser
- 可信度
- Apache-2.0,官方给出 vLLM/SGLang 部署命令与 benchmark 结果
仅 safetensors · 无 pickle 加载风险
快速上手示例
vllm serve IFM/K2-Horizon-MoVA-36B-A4B --trust-remote-code --reasoning-parser k2_horizon --tool-call-parser k2_horizon --enable-auto-tool-choice 点击复制
依赖版本和硬件参数请以源仓库说明为准。