STL/点云→可编辑 CadQuery
- MLX
适合STL/点云→CadQuery / Apple Silicon MLX 推理
短板常规文本聊天/文本生成
Q4 ~9.2GB / FP16 ~34GB · CC BY-NC 4.0 · 未知 · mlx需自查
证据161 下载 / 3 赞
本期 (6)
GGUF 非均匀量化多模态 MoE，本地图像推理
适合本地多模态图像理解 / 推理/数学/代码基准评测
短板显存不足 48GB 的本地机器
未公开 · apache-2.0 · 未知 · llama.cpp需自查
证据68k 下载 / 242 赞
三元量化 27B GGUF，移除拒绝，单GPU可跑
适合单 GPU 本地 27B 文本生成 / 无审查推理与视觉原型测试
短板生产环境无审核部署
Q4 ~18GB / FP16 ~65GB · Apache-2.0 · 未知 · llama.cpp需自查
证据38.4k 下载 / 125 赞
9B 智能体模型，覆盖编程/工具调用/视觉编码
适合编程与 Agent 工具调用 / 视觉编码 / 网络安全评测
短板生产环境直接部署
Q4 ~5.9GB / FP16 ~22GB · MIT · 未知 · transformers需自查
证据804 下载 / 338 赞
MTPLX 4-bit动态量化，Mac M1/M2 FP16 构建
- MLX
- 已量化
适合Mac 本地代码生成与补全 / 262k 上下文文档处理
短板非 Apple Silicon 或内存<32GB 设备
Q4 ~18GB / FP16 ~65GB · apache-2.0 · 262k · mtplx需自查
证据7876 下载 / 20 赞
178MB三元权重ASR，CPU/Apple实时转写
- 已量化
适合CPU 长音频实时转写 / 25 语言批量转写
短板高噪声语音转写
Q4 ~0.4GB / FP16 ~1.4GB · cc-by-4.0 · 未知 · photon需自查
证据317 下载 / 122 赞