Kolibri-1 (Aleph-Alpha)

德英 MoE 推理模型，78B 总参 / 3.46B 激活

入选理由: 78B MoE推理模型，3.46B激活参数，1M上下文，支持推理模式与工具调用，德英双语；官方vLLM部署，需多卡A100/H100级显存。
对位: 对位 Qwen3-Next 80B-A3B
适合: 德英多步推理与结构化提取 / 长文档 RAG 与工具调用 Agent
不适合: 单卡低显存本地部署
规模: 78B 总参 / 3.46B 激活 · 1,048,576 tokens · Q4 ~51GB / FP16 ~187GB
授权: Apache-2.0 · 需自查
框架: vllm
工具调用: Hermes 风格 function calling
血统: 量化自 Kolibri-1-BF16
可信度: Apache-2.0 权重，78B 总参/3.46B 激活，1M 上下文，技术报告公开

仅 safetensors · 无 pickle 加载风险

快速上手示例

vllm serve Aleph-Alpha/Kolibri-1 --kv-cache-dtype fp8 --reasoning-parser kolibri1 --tool-call-parser kolibri1 --enable-auto-tool-choice

依赖版本和硬件参数请以源仓库说明为准。

评分详情