模型 / Qwythos-9B (Empero)

Qwythos-9B (Empero)

开源 9B 推理模型，不审查，支持 1M 上下文和函数调用

作者: empero-ai
对位: 对位 Qwen3.5-9B
适合: 长上下文推理与工具调用 / 网络安全 / 生物医学等敏感技术问答
不适合: 需要安全审查的生产部署
入选理由: Qwen3.5-9B全参数微调，推理能力显著提升，支持1M上下文和函数调用，适合长文本与工具代理场景，需自行安装额外内核依赖。
规模: 9B · 1M · 最低 ~5.6GB · 4-bit(估算)
授权: Apache 2.0 · 需自查
框架: vllm / transformers
工具调用: Qwen3.5 原生函数调用（OpenAI 兼容格式）
血统: 微调自 Qwen3.5-9B
国内访问: 需代理
可信度: MMLU 提升 34.3 分，gsm8k 严格匹配提升 30 分，同 harness 同采样验证

仅 safetensors · 无 pickle 加载风险

社区实测

工具调用和补丁编辑在 Q8 量化下可用，但长上下文下容易陷入循环和错误操作

Q8 量化下工具调用可用，补丁式代码编辑表现良好
1M 长上下文窗口，支持全代码库推理和多文档研究
Apache 2.0 许可，9B 参数可运行在消费级硬件上
原生支持 OpenAI/Qwen3.5 风格函数调用，无需额外封装

上下文窗口增大后出现循环和错误操作，可能与采样参数设置有关
非通用聊天模型，是推理模型，需严格按模型卡指定采样参数使用

来源

Empero-AI/Qwythos-9B-Claude-Mythos-5-1M | Hacker News empero-ai/Qwythos-9B-Claude-Mythos-5-1M - Featherless AI Qwythos-9B Review: Exploring the 1M Context Open-Source Reasoning Model — Deepsim Insights | by Dr. Shouke Wei | Jun, 2026 | Medium How to Use Qwythos-9B: vLLM, SGLang, and Transformers Deployment Guide

截至 2026-07-08

本形态 ~5.6GB 4-bit · 国内需代理 · 842 下载

仅 safetensors · 无 pickle 加载风险

快速上手

vllm serve empero-ai/Qwythos-9B-Claude-Mythos-5-1M --max-model-len 1010000

本形态源 ↗

下载动量

30天下载 189.9k → 196.4k · likes +724

观测时间线

模型家族

Qwen3.5-9B
- 量化 MaralGPT-Mythos-9B (MaralGPT)
- 量化 Qwen3.5-9B (Qwen)
- 量化 Qwen3.5-9B-MTP-GGUF (unsloth)
- 量化 Qwen3.5-9B-OptiQ-4bit (mlx-community)
- 微调 Qwythos-9B (Empero)
  - 微调 Qwythos-9B-v2 (Empero AI)

查看全部家族 →