模型 / K2-Horizon-MoVA-36B-A4B (IFM)

K2-Horizon-MoVA-36B-A4B (IFM)

36B MoE 开源模型，4B 激活，面向 agent/推理

作者 IFM

仓库标识IFM/K2-Horizon-MoVA-36B-A4B

~22GB 4-bit许可 可商用任务 文本生成最近核对 2026-09-04
格式
4-bit
文件
~20GB
运行内存
~22GB–29GB
运行时
VLLM

仅 safetensors · 无 pickle 加载风险

Hugging Face 源仓库 ↗

快速上手示例

vllm serve IFM/K2-Horizon-MoVA-36B-A4B --trust-remote-code --reasoning-parser k2_horizon --tool-call-parser k2_horizon --enable-auto-tool-choice

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由
36B 总参、4B 激活的 MoE,引入 MoVA 注意力,512K 上下文;vLLM/SGLang 可直接部署,需多卡。
对位
对位 Qwen3.6-35B-A3B 等开源 MoE
适合
agentic 工具调用 / 长上下文推理与编码
不适合
单张消费级显卡本地部署

完整规格

规模
36B (4B 激活) · 512k · 下载 ~20GB · 显存最低 ~22GB · 推荐 ~29GB · 4-bit(估算)
授权
apache-2.0 · 可商用
框架
vllm / sglang / transformers
工具调用
k2_horizon tool-call parser
访问提示
Hugging Face 可能需要代理

观测时间线