时间:2026年7月17日
地点:美国
人物:英伟达AI模型团队
【事件详情】
英伟达正式发布Nemotron 3 Embed开源嵌入模型系列,包含8B、1B BF16及1B NVFP4三个版本,定位生产级RAG、智能体检索、代码检索与智能体记忆场景。其中8B BF16版本在Retrieval Embedding Benchmark公开集16项任务上平均NDCG@10达78.46,截至发布当日排名第一。
三个嵌入模型均基于Mistral架构构建,8B版本以Ministral-3-8B-Instruct-2512为基底,1B版本以Ministral-3-3B-Instruct-2512为基底,采用双向注意力掩码Transformer编码器,最大序列长度均为32768 tokens,覆盖34种语言评估。1B模型并非从头训练,而是通过NVIDIA ModelOpt mcore_minitron神经架构搜索对3B父模型进行剪枝,再经两轮迭代蒸馏得到,在RTEB上较前代llama-nemotron-embed-vl-1b-v2提升10.4分。NVFP4版本针对Blackwell架构优化,量化后吞吐量较BF16提升近2倍,精度保留99.5%以上,量化感知蒸馏仅需512样本校准、2万样本训练。
【背景】
嵌入模型是RAG和智能体系统的第一层,决定智能体能检索到哪些信息,直接关系检索质量与最终回答准确性。此前业界主流嵌入模型在长上下文和多语言检索场景下精度与效率难以兼顾,英伟达此次发布同时覆盖高精度、轻量化和推理优化三条路径。
【影响】
- 8B版本登顶RTEB榜首,为开源嵌入模型设立新的精度标杆
- 1B轻量版本为端侧和边缘场景提供可部署的检索能力
- NVFP4版本让Blackwell用户在几乎不损失精度的情况下获得近2倍吞吐
- 34种语言覆盖降低多语言RAG系统的适配成本
- 开放权重策略可能加速RAG和智能体生态的模块化分工
【总结】
Nemotron 3 Embed是英伟达首次系统性布局开源嵌入模型,从8B高精度到1B轻量再到NVFP4推理优化,覆盖从云端到边缘的完整部署链路。8B版本登顶RTEB意味着开源嵌入模型首次在主流公开基准上取得领先位置,对依赖RAG和智能体检索的企业而言,这意味着检索精度和部署灵活性的双重提升。
【参考来源】
https://www.marktechpost.com/2026/07/17/nvidia-ai-releases-nemotron-3-embed-an-open-embedding-collection-whose-8b-checkpoint-ranks-1-on-rteb
https://huggingface.co/collections/nvidia/nemotron-3-embed
https://mteb-leaderboard.hf.space/benchmark/RTEB%28beta%29









