MLX VQ量化35B MoE,适合Apple Silicon本地推理
- Apple Silicon
- 已量化
适合本地日常对话与文本生成 / 资源受限的Apple设备推理
短板云端大规模部署或高精度任务
Q4 ~23GB / FP16 ~84GB · Apache-2.0 · 128k · mlx需自查
证据524 下载 / 2 赞
MLX VQ量化35B MoE,适合Apple Silicon本地推理
适合本地日常对话与文本生成 / 资源受限的Apple设备推理
短板云端大规模部署或高精度任务
Q4 ~23GB / FP16 ~84GB · Apache-2.0 · 128k · mlx需自查
证据524 下载 / 2 赞
输入关键词,跨模型 / 数据集 / 空间 / 工具 / 资讯 / 论文 检索