Nemotron-3-Embed-1B-NVFP4 (NVIDIA)

多语言文本嵌入，NVFP4 量化，专为 RAG 和检索设计

作者: nvidia
对位: 对位 BGE-M3、multilingual-e5 等同级开源嵌入模型
适合: 多语言 RAG 检索 / 语义搜索与问答
不适合: 生成式任务（仅输出嵌入向量）
入选理由: Nemotron-3嵌入模型的NVFP4量化版，通过vLLM一行命令部署，适合多语言RAG，需NVIDIA GPU（Ampere+）和vLLM环境。
规模: 1.14B · 32k · Q4 ~0.5GB / FP16 ~1.8GB
授权: OpenMDW-1.1 · 需自查
框架: vllm
维度: 2048 维 · 256k 序列
血统: 量化自 Nemotron-3-Embed-1B-BF16
国内访问: 需代理
可信度: 下载 6.6k，RTEB NDCG@10 得分 72.00，比 BF16 仅降 0.38

本形态显存 Q4 ~0.5GB / FP16 ~1.8GB · 国内需代理 · 6,682 下载

仅 safetensors · 无 pickle 加载风险

快速上手

vllm serve nvidia/Nemotron-3-Embed-1B-NVFP4

观测时间线

Ministral-3-3B-Instruct-2512
- 微调 Nemotron-3-Embed-1B (NVIDIA)
  - 量化 Nemotron-3-Embed-1B-NVFP4 (NVIDIA)