Ornith-1.5-35B-A3B (Ornith)

35B MoE 激活 3B，面向工具调用与长上下文推理

入选理由: 35B MoE(激活3B)编码agent模型,支持256K上下文与工具调用,提供GGUF/Ollama及OpenAI兼容接口,适合本地部署,需约70GB显存。
对位: 对位 Qwen3.6-35B-A3B、Gemma-4-31B 等开源同级模型
适合: 终端编码 Agent / 工具调用 / 需要 256K 上下文的推理任务
不适合: 低显存单卡环境与短回复普通对话
规模: 35B MoE / 激活 3B · 262k · Q4 ~24GB / FP16 ~86GB
授权: MIT · 需自查
框架: vllm / sglang / llama.cpp / ollama / transformers / unsloth
工具调用: OpenAI-style tool_calls / <tool_call> blocks
可信度: HuggingFace 9165 下载、280 点赞；基准结果自报为 5 次运行均值

仅 safetensors · 无 pickle 加载风险

快速上手示例

vllm serve ornith-ai/Ornith-1.5-35B-A3B --trust-remote-code --reasoning-parser qwen3 --tool-call-parser qwen3_xml --enable-auto-tool-choice

依赖版本和硬件参数请以源仓库说明为准。

评分详情