模型 / LFM2.5-Embedding-350M (LiquidAI)

LFM2.5-Embedding-350M (LiquidAI)

11语种双编码器，面向端侧语义检索

作者
LiquidAI
对位
对位 Qwen3-Embedding-0.6B
适合
端侧本地语义搜索 (文件/邮件) / 跨语言 FAQ/知识库检索
不适合
长文档 (>512 tokens) 检索
入选理由
多语言检索新SOTA，支持11种语言，可用sentence-transformers或GGUF快速部署，适合RAG和语义搜索。
规模
350M · 32k · 最低 ~0.2GB · 4-bit(估算)
授权
lfm1.0 · 需自查
框架
sentence-transformers / llama.cpp
维度
1024 维 · 125k 序列
血统
微调自 LFM2.5-350M-Base
国内访问
需代理
可信度
下载3734，多语言NanoBEIR NDCG@10 0.577，MKQA Recall@20 0.691，同级最佳，已出GGUF

社区实测

社区对 LFM2.5-Embedding-350M 以 350M 小参数量实现超低延迟多语言检索表示兴奋

  • 端到端检索延迟低至 1.5ms（企业栈），CPU 上通过 llama.cpp 也可做到 <10ms
  • 覆盖 11 种语言的多语言与跨语言检索
  • 350M 小体积可运行在笔记本、边缘设备上
来源

Liquid AI releases LFM2.5-Embedding-350M and LFM2.5-ColBERT ...LFM2.5 Retrievers: Bi-directional LFMs for Fast Multilingual SearchLiquid AI on X: "Introducing LFM2.5-Embedding-350M and LFM2.5-ColBERT-350M..."

截至 2026-06-19

本形态 ~0.2GB 4-bit · 国内 需代理 · 3,734 下载

仅 safetensors · 无 pickle 加载风险

快速上手

llama-server -hf LiquidAI/LFM2.5-Embedding-350M-GGUF (需安装llama.cpp)

本形态源 ↗

下载动量

30天下载 36.7k → 32.6k · likes +41

观测时间线

模型家族

查看全部家族 →