英伟达发布 Nemotron 3 Embed 系列 AI 模型,8B 版斩获 RTEB 榜首

浏览11次 点赞0次 收藏0次
感谢网友 软媒新友1916289 的线索投递!

7 月 18 日消息,英伟达昨日(7 月 17 日)发布博文,宣布开源推出 Nemotron 3 Embed 系列模型,主要面向 AI 智能体和检索增强生成(RAG)场景。

该系列以开放权重形式发布,支持商业使用,目前已通过 Hugging Face 与 NVIDIA NIM 免费提供。

Nemotron 3 Embed 配备 32K 上下文窗口,可执行高精度检索。NVIDIA 称,这一设计可减少 AI 智能体重复检索,压低不必要的推理触发频率,并显著降低 Token 消耗量。

英伟达针对不同部署环境,同步公开微调和蒸馏版本,覆盖精度优先、成本与时延优先,以及针对特定 GPU 架构优化的使用需求,推出 3 个模型版本:

  • Nemotron-3-Embed-8B-BF16 模型为系列为最高规格版本,参数规模为 80 亿。英伟达称,该模型适合对精度要求较高、且伴随较高风险的企业业务场景。该模型基于 Ministral-3-8B-Instruct-2512 构建。

  • Nemotron-3-Embed-1B-BF16 为高效率版本,参数规模为 11.4 亿。NVIDIA 称,该模型适合重视时延与成本的部署环境。该模型由基于 Ministral-3-3B-Instruct-2512 的父模型蒸馏得到。

  • Nemotron-3-Embed-1B-NVFP4 则是在高效率版基础上,面向 Blackwell 架构 GPU 优化的版本。原文称,借助 NVFP4,该模型在维持与高效率版相同检索精度的同时,可进一步降低内存占用,并将吞吐量最高提升至 2 倍。

性能方面,Nemotron-3-Embed-8B-BF16 在 RTEB 跑分上斩获第一,得分 78.5%,在 MMTEB 检索中得分 75.5%。

注:RTEBRetrieval Embedding Benchmark,检索嵌入基准)是由 Hugging Face 团队及 MTEB(海量文本嵌入基准)社区推出的新型检索与嵌入模型评估标准。它专为评估大模型在真实场景(如 RAG 系统和智能体)中的实际检索质量而设计。

声明:本文转载自IT 之家,转载目的在于传递更多信息,并不代表本社区赞同其观点和对其真实性负责,本文只提供参考并不构成任何建议,若有版权等问题,点击这里查看更多信息!本站拥有对此声明的最终解释权。如涉及作品内容、版权和其它问题,请联系我们删除,我方收到通知后第一时间删除内容。

点赞(0) 收藏(0)
0条评论
珍惜第一个评论,它往往能得到较好的回响。
评论
游客
游客
登录后再评论
  • 鸟过留鸣,人过留评。
  • 和谐社区,和谐点评。
最新资讯