K2-Horizon-7B (IFM)
7B 密集解码器,512K 上下文,面向推理/代码/长上下文
- 入选理由
- 512K 上下文 7B 开源模型,主打推理/Agent/编码,可 vLLM 起 OpenAI 兼容服务,适合长上下文与工具调用。
- 对位
- 对位 Qwen3.5-9B / Gemma 4-12B
- 适合
- 512K 长上下文推理与代码 / Agent 工具调用 / 终端任务
- 不适合
- 低延迟短输出场景
- 规模
- 7B · 512k · Q4 ~5.9GB / FP16 ~22GB
- 授权
- apache-2.0 · 需自查
- 框架
- vllm / sglang / transformers
- 工具调用
- k2_horizon
- 可信度
- Apache-2.0 权重开源,训练数据/配方公开,HF 1.2k 下载 72 赞
仅 safetensors · 无 pickle 加载风险
快速上手示例
vllm serve IFM/K2-Horizon-7B --trust-remote-code --dtype bfloat16 --max-model-len 131072 --reasoning-parser k2_horizon --enable-auto-tool-choice --tool-call-parser k2_horizon 点击复制
依赖版本和硬件参数请以源仓库说明为准。