SummFlow 2026-07-21 Hugging Face

Nemotron-3-Embed-1B-NVFP4 (NVIDIA)

多语言文本嵌入,NVFP4 量化,专为 RAG 和检索设计

  • 已量化
入选理由
Nemotron-3嵌入模型的NVFP4量化版,通过vLLM一行命令部署,适合多语言RAG,需NVIDIA GPU(Ampere+)和vLLM环境。
对位
对位 BGE-M3、multilingual-e5 等同级开源嵌入模型
适合
多语言 RAG 检索 / 语义搜索与问答
不适合
生成式任务(仅输出嵌入向量)
规模
1.14B · 32k · Q4 ~0.5GB / FP16 ~1.8GB
授权
OpenMDW-1.1 · 需自查
框架
vllm
维度
2048 维 · 256k 序列
血统
量化自 Nemotron-3-Embed-1B-BF16
可信度
下载 6.6k,RTEB NDCG@10 得分 72.00,比 BF16 仅降 0.38

仅 safetensors · 无 pickle 加载风险

快速上手

vllm serve nvidia/Nemotron-3-Embed-1B-NVFP4