ds4引擎 DeepSeek-V4-Flash 量化，Mac 本地运行
- 已量化
适合Apple Silicon 本地推理 / 长上下文处理 (100k)
短板低内存机器 (<128GB RAM)
未公开 · MIT · 100k · ds4需自查
证据811.5k 下载 / 413 赞
本期 (4)
把粗糙提示变成结构化详细提示，方便交给任意模型
适合将含糊需求转为结构化任务提示 / 作为 AI 工作流的前置输入优化
短板非英文提示或通用对话
Q4 ~21GB / FP16 ~76GB · NVIDIA Nemotron Open Model License · 8K · ollama需自查
证据633 下载 / 2 赞
MLX 6-bit 35B，用于 Apple Silicon 文本生成
- MLX
适合Apple Silicon 本地对话 / 离线文本生成与摘要
短板需高精度的专业推理
Q4 ~23GB / FP16 ~84GB · MIT · 未知 · mlx需自查
证据284 下载
MLX量化9B文本模型，苹果芯片本地推理
- MLX
适合Apple Silicon 本地文本生成 / 轻量级对话应用离线推理
短板高精度数值任务
Q4 ~1.6GB / FP16 ~5.8GB · MIT · 未知 · mlx需自查
证据432 下载