模型 / LFM2.5-230M (LiquidAI)

LFM2.5-230M (LiquidAI)

混合架构边缘设备模型，用于设备端文本生成

作者
LiquidAI
对位
对位 SmolLM2-135M/360M
适合
设备端文本生成与补全 / 低功耗场景下的轻量对话
不适合
复杂推理或长上下文生成
入选理由
LFM2.5是轻量混合文本模型，GGUF格式可直接用llama.cpp运行，适合边缘设备部署和快速试用。
规模
230M · 32768 · 最低 ~0.1GB · 4-bit(估算)
授权
LFM1.0 · 需自查
框架
llama.cpp
工具调用
自定义模板 (<|tool_call_start|>/<|tool_call_end|> 包裹Python调用)
血统
量化自 LFM2.5-230M
国内访问
需代理
可信度
累计 8505 次下载，48 点赞，GGUF 格式可直接用 llama.cpp 推理

仅 safetensors · 无 pickle 加载风险

社区实测

230M 级别模型中实测表现超出预期,尤其在数据提取和经微调后的编码场景中性价比高,但作为基础模型当前原生能力仍偏简单

  • 端侧/低算力设备上的可运行性(手机、树莓派等)
  • 以小博大的数据提取能力,官方基准上优于 4 倍参数量的模型
  • 低成本硬件上实现可用推理速度(Raspberry Pi 5 达 42 tok/s, Galaxy S25 Ultra 达 213 tok/s)
  • 当前原生行为/能力尚简单,需自行微调才能适配具体生产任务
  • 通用对话与复杂推理能力有限,不适合直接作为日常聊天模型使用
来源

LFM2.5-230M: Built to Run Anywhere — Blog — Liquid AILiquid AI's smallest model yet LFM2.5-230M beats ... - VentureBeatLiquidAI/LFM2.5-8B-A1B · Hugging Face : r/LocalLLaMA - Reddit

截至 2026-07-05

本形态 ~0.1GB 4-bit · 国内 需代理 · 7,334 下载

仅 safetensors · 无 pickle 加载风险

快速上手

llama-server -hf LiquidAI/LFM2.5-230M-GGUF

本形态源 ↗

下载动量

30天下载 55.1k → 59.7k

观测时间线