StarSupernova (monkiey)

苹果端侧 4-bit MoE 文本生成

入选理由: 基于 DiffusionGemma 的 12 专家 MoE 模型，4-bit 量化可在 Apple Silicon 上本地运行，适合追求低显存推理的 Mac 用户。
对位: 对位 Gemma-3-4B / Qwen3-4B
适合: Apple Silicon Mac 本地英文推理 / 学术选择题与 CoT 推理
不适合: 中文或非英语生成任务
规模: 13.5B · 131k · Q4 ~8.9GB / FP16 ~32GB
授权: Apache-2.0 · 需自查
框架: mlx
血统: 量化自 diffusiongemma-26B-A4B-it
可信度: HF 下载量 1.5k，仓库含 MLX 4-bit 权重及推理示例

仅 safetensors · 无 pickle 加载风险

快速上手示例

mlx_lm.generate --model monkiey/StarSupernova

依赖版本和硬件参数请以源仓库说明为准。

评分详情

作者: monkiey
任务类型: text-generation
推理库: mlx
下载: 1,576
点赞: 0
许可证: Apache-2.0
标签: mlx, safetensors, diffusion_gemma, diffusiongemma, discrete-diffusion, gemma-4, moe, mixture-of-experts, apple-silicon, 4-bit, qat, unsloth, reasoning, star-supernova, step-3.7-flash, distillation, mmlu, chain-of-thought, fine-tuned, english, text-generation, conversational, en, base_model:google/diffusiongemma-26B-A4B-it, base_model:quantized:google/diffusiongemma-26B-A4B-it, license:apache-2.0, region:us