Ornith-1.5-9B (ornith-ai)
- 入选理由
- 9B 编码与 agent 模型,提供 vLLM/SGLang 现成服务,OpenAI 兼容,支持 262K 上下文与工具调用,适合单卡本地部署。
- 对位
- 对位 Qwen3-8B / Llama-3-8B
- 适合
- 单卡 vLLM/SGLang 部署 / 终端编码与工具调用
- 不适合
- 简单问答 / 低延迟场景
- 规模
- 9B · 262k（YaRN 可扩展至约 1M） · Q4 ~6.2GB / FP16 ~23GB
- 授权
- MIT · 需自查
- 框架
- transformers / vllm / sglang
- 工具调用
- OpenAI-style tool_calls；模型输出 <tool_call> 块，配合 qwen3_xml / qwen3_coder 解析
- 可信度
- HF 1,324 下载、124 点赞；模型卡含 vLLM/SGLang 服务命令
仅 safetensors · 无 pickle 加载风险
快速上手示例
vllm serve ornith-ai/Ornith-1.5-9B --served-model-name Ornith-1.5-9B --max-model-len 262144 --enable-auto-tool-choice --tool-call-parser qwen3_xml --reasoning-parser qwen3 --trust-remote-code 点击复制
依赖版本和硬件参数请以源仓库说明为准。