模型 / Ornith-1.5-9B (ornith-ai)

Ornith-1.5-9B (ornith-ai)

9B 稠密推理模型，单卡部署与终端编程

作者 ornith-ai

仓库标识ornith-ai/Ornith-1.5-9B

~5.6GB 4-bit许可 可商用任务 文本生成最近核对 2026-08-21

仅 safetensors · 无 pickle 加载风险

格式
4-bit
文件
~4.9GB
运行内存
~5.6GB–7.3GB
运行时
VLLM
下载
1,324

仅 safetensors · 无 pickle 加载风险

Hugging Face 源仓库 ↗

快速上手示例

vllm serve ornith-ai/Ornith-1.5-9B --served-model-name Ornith-1.5-9B --max-model-len 262144 --enable-auto-tool-choice --tool-call-parser qwen3_xml --reasoning-parser qwen3 --trust-remote-code

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由
9B 编码与 agent 模型,提供 vLLM/SGLang 现成服务,OpenAI 兼容,支持 262K 上下文与工具调用,适合单卡本地部署。
对位
对位 Qwen3-8B / Llama-3-8B
适合
单卡 vLLM/SGLang 部署 / 终端编码与工具调用
不适合
简单问答 / 低延迟场景

完整规格

规模
9B · 262k（YaRN 可扩展至约 1M） · 下载 ~4.9GB · 显存最低 ~5.6GB · 推荐 ~7.3GB · 4-bit(估算)
授权
MIT · 可商用
框架
transformers / vllm / sglang
工具调用
OpenAI-style tool_calls；模型输出 <tool_call> 块，配合 qwen3_xml / qwen3_coder 解析
访问提示
Hugging Face 可能需要代理

下载动量

30天下载 130.7k → 256.3k

观测时间线