此页是 2026-09-28 的观测快照,查看该模型当前信息 → /m/orcarouter__orcasaq-2-27b/

归档 / 2026-09-28 / OrcaSAQ-2-27B (OrcaRouter)

OrcaSAQ-2-27B (OrcaRouter)

Qwen3.8-27B 3-bit 量化，面向长时程 agent

入选理由: 27B Qwen3.8 量化至 12.3GB，16GB 显卡可跑 vLLM，保留长上下文与工具调用，适合 agent 场景；需装 OrcaSAQ2-kernel。
对位: 对位 Qwen3.8-27B BF16 / Gemma 27B
适合: 长时程 agent / 工具调用 / 16GB 单卡本地部署
不适合: 视觉 / 多模态输入
规模: 27B · 262K · Q4 ~18GB / FP16 ~65GB
授权: apache-2.0 · 需自查
框架: vllm
工具调用: qwen3_xml
血统: 量化自 Qwen3.8-27B
可信度: 下载 1330, 赞 169; 自报 BF16 PPL +0.02%, Top-1 一致 93.2%

仅 safetensors · 无 pickle 加载风险

评分详情

Q1: 今天能接上用吗 4 / 5
Q2: 有可信证据吗 2 / 5
Q3: 是新东西吗 1 / 5
总分: 7

HuggingFace 原始数据 (抓取于 2026-09-28)

作者: orcarouter
任务类型: text-generation
推理库: vllm
下载: 1,330
点赞: 169
许可证: apache-2.0
标签: vllm, safetensors, qwen3_5, qwen, qwen3.8, orcasaq2, quantization, mixed-precision, 3-bit, reasoning, function-calling, mtp, agentic, long-horizon, long-context, text-generation, conversational, en, zh, base_model:Qwen/Qwen3.8-27B, base_model:quantized:Qwen/Qwen3.8-27B, license:apache-2.0, exl3, region:us

探索