SummFlow 2026-06-29 Hugging Face

LFM2.5-230M (LiquidAI)

混合架构边缘设备模型,用于设备端文本生成

入选理由
LFM2.5是轻量混合文本模型,GGUF格式可直接用llama.cpp运行,适合边缘设备部署和快速试用。
对位
对位 SmolLM2-135M/360M
适合
设备端文本生成与补全 / 低功耗场景下的轻量对话
不适合
复杂推理或长上下文生成
规模
230M · 未知
授权
LFM1.0 · 需自查
框架
llama.cpp
血统
量化自 LFM2.5-230M
可信度
累计 8505 次下载,48 点赞,GGUF 格式可直接用 llama.cpp 推理

社区实测

230M 级别模型中实测表现超出预期,尤其在数据提取和经微调后的编码场景中性价比高,但作为基础模型当前原生能力仍偏简单

  • 端侧/低算力设备上的可运行性(手机、树莓派等)
  • 以小博大的数据提取能力,官方基准上优于 4 倍参数量的模型
  • 低成本硬件上实现可用推理速度(Raspberry Pi 5 达 42 tok/s, Galaxy S25 Ultra 达 213 tok/s)
  • 当前原生行为/能力尚简单,需自行微调才能适配具体生产任务
  • 通用对话与复杂推理能力有限,不适合直接作为日常聊天模型使用

截至 2026-07-05

快速上手

ollama run hf.co/LiquidAI/LFM2.5-230M-GGUF