Apple Silicon 本地推理的 MLX 6-bit 量化模型
- MLX
- 已量化
适合Apple Silicon 本地推理 / 通用文本生成与实验
短板MTP 加速与 VLM 多模态任务
Q4 ~23GB / FP16 ~84GB · Apache-2.0 · 262k · mlx-lm需自查
证据182 下载
本期 (3)
Apple Silicon 用 4-bit 量化 LFM，始终思考模式
- MLX
- 已量化
适合Apple Silicon 上本地聊天 / 内嵌思考步骤的任务
短板不需要思考的快速回答
Q4 ~1.7GB / FP16 ~6.2GB · LFM Open License v1.0 · 未知 · mlx需自查
证据147 下载
LFM2.5-2.6B GGUF 量化，本地部署通用文本生成
适合本地轻量文本生成 / 嵌入式设备离线推理
短板复杂逻辑推理与长文本理解
Q4 ~1.7GB / FP16 ~6.2GB · LFM1.0 (商业使用有限制) · 未知 · llama.cpp需自查
证据1859 下载