此页是 2026-08-12 的观测快照,查看该模型当前信息 → /m/nvidia__nvidia-nemotron-35-lightning-30b-a3b-bf16/

归档 / 2026-08-12 / Nemotron-3.5-Lightning-30B-A3B (NVIDIA)

Nemotron-3.5-Lightning-30B-A3B (NVIDIA)

30B总参3B激活，为微调与量化而设计

入选理由: NVIDIA最新混合Mamba-2+MoE+Attention架构,30B总参3B激活,单卡H100可跑,vLLM有现成命令,支持1M上下文与多语种,适合推理/定制。
对位: 对位 Qwen 3.6 35B A3B / Gemma 4 26B
适合: 二次训练（SFT/RL/蒸馏） / 模型量化变体与评估
不适合: 直接高性能生产推理
规模: 30B (3B激活) · 1M · Q4 ~21GB / FP16 ~76GB
授权: OpenMDW-1.1 · 需自查
框架: transformers / vllm
工具调用: OpenAI-style
可信度: HuggingFace 15.7k下载，68赞，NVIDIA 官方发布

仅 safetensors · 无 pickle 加载风险

快速上手示例

vllm serve nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16

依赖版本和硬件参数请以源仓库说明为准。

评分详情

Q1: 今天能接上用吗 5 / 5
Q2: 有可信证据吗 3 / 5
Q3: 是新东西吗 5 / 5
总分: 13

HuggingFace 原始数据 (抓取于 2026-08-12)

作者: nvidia
任务类型: text-generation
推理库: transformers
下载: 15,740
点赞: 68
许可证: OpenMDW-1.1
标签: transformers, safetensors, nemotron_h, text-generation, nvidia, pytorch, nemotron-3.5, conversational, en, es, fr, de, it, ja, dataset:nvidia/nemotron-post-training-v3, dataset:nvidia/nemotron-pre-training-datasets, license:other, endpoints_compatible, region:us, deploy:azure

探索