归档 / 2026-05-29 / LFM2.5-8B-A1B (LiquidAI)

LFM2.5-8B-A1B (LiquidAI)

端侧部署的混合MoE模型，用于工具调用与多语言助理

部署

py transformers >= 5.0.0: AutoModelForCausalLM.from_pretrained('LiquidAI/LFM2.5-8B-A1B')
py llama.cpp 加载 GGUF 量化文件
py vLLM 部署 OpenAI-compatible 服务

入选理由: 支持GGUF/vLLM/Transformers，5分钟可部署；性能显著优于前代，但缺乏社区验证，下载量为0。
对位: 对位 Qwen3.5-4B, Gemma-4-E2B 等端侧模型
适合: 工具调用与结构化输出 / 多语言端侧个人助理
不适合: 重编程或无检索的知识密集型问答
规模: 8.3B (1.5B active) · 131K · Q4 ~5.6GB / FP16 ~20GB
授权: LFM1.0 (custom) · 需自查
框架: transformers / vllm / llama.cpp / mlx
可信度: IFEVAL 91.84, MATH500 88.76, 吞吐18.5K tok/s @ H100

评分详情

Q1: 今天能接上用吗 5 / 5
Q2: 有可信证据吗 2 / 5
Q3: 是新东西吗 3 / 5
总分: 10

HuggingFace 原始数据 (抓取于 2026-05-29)

作者: LiquidAI
任务类型: text-generation
推理库: transformers
下载: 0
点赞: 107
许可证: LFM1.0 (custom)
标签: transformers, safetensors, lfm2_moe, text-generation, liquid, lfm2.5, edge, conversational, en, ar, zh, fr, de, ja, ko, es, pt, arxiv:2511.23404, base_model:LiquidAI/LFM2.5-8B-A1B-Base, base_model:finetune:LiquidAI/LFM2.5-8B-A1B-Base, license:other, endpoints_compatible, region:us

探索