英偉達發佈 Nemotron 3 Embed 系列 AI 模型，8B 版斬獲 RTEB 榜首

英偉達（NVIDIA）於昨日（7 月 17 日）正式對外發表全新 Nemotron 3 Embed 系列 AI 模型，並以開放權重形式開源釋出，允許商業使用。這一系列模型專為 AI 智能體（AI agent）與檢索增強生成（Retrieval-Augmented Generation, RAG）場景設計，目前已同步上架至 Hugging Face 平台與 NVIDIA NIM 服務，供開發者免費下載與部署。Nemotron 3 Embed 系列配備 32K 上下文窗口，能夠執行高精度的向量檢索任務。

英偉達指出，這項設計能有效減少 AI 智能體在進行重複檢索時所耗費的資源，降低不必要的推理觸發頻率，進而顯著壓低 Token 消耗量，對於需要大量即時檢索的企業級應用來說尤為重要。針對不同部署環境的需求，英偉達一口氣推出三個模型版本，涵蓋從精度優先到成本與延遲優先，再到針對特定 GPU 架構最佳化的多元選擇。首先，規格最高的版本為 Nemotron-3-Embed-8B-BF16，參數規模達到 80 億（8B），採用 BF16 精度。英偉達表示，這款模型最適合對檢索精度要求極高、且伴隨較高風險的企業業務場景，例如金融風控、醫療診斷或法規合規查核。

該模型是基於 Ministral-3-8B-Instruct-2512 所建構。其次，針對重視運算延遲與部署成本的環境，英偉達推出了 Nemotron-3-Embed-1B-BF16，參數規模僅 11.4 億（1B），屬於高效率版本。這款模型並非從頭訓練，而是由基於 Ministral-3-3B-Instruct-2512 的父模型透過知識蒸餾技術所產生，能在維持一定檢索品質的同時，大幅縮減模型體積與推理負擔。第三個版本為 Nemotron-3-Embed-1B-NVFP4，是在高效率版的基礎上，專門針對 Blackwell 架構 GPU 進行最佳化。

英偉達指出，藉助 NVFP4（NVIDIA FP4）格式，這款模型在維持與高效率版相同檢索精度的前提下，能夠進一步降低記憶體佔用，並將吞吐量最高提升至 2 倍，對於大規模並行部署或邊緣運算場景格外有利。在性能表現方面，Nemotron-3-Embed-8B-BF16 在最新的 RTEB（Retrieval Embedding Benchmark）排行榜上一舉奪冠，得分高達 78.5%；在同一測試的 MMTEB（Massive Text Embedding Benchmark）檢索項目中，亦取得 75.5% 的優異成績。

RTEB 是由 Hugging Face 團隊與 MTEB 社群共同推出的新型檢索與嵌入模型評估標準，專門用來評量模型在真實場景（如 RAG 系統與 AI 智能體）中的實際檢索品質，而非僅看學術基準得分，因此對企業導入更具參考價值。英偉達此次推出的 Nemotron 3 Embed 系列，不僅在開放權重與商業使用授權上降低了企業導入門檻，更透過多種版本與精度選擇，讓開發者能依據自身硬體環境、成本預算及業務風險承受度，靈活選用最適合的檢索模型。隨著 RAG 架構與 AI 智能體技術逐漸成為生成式 AI 落地的核心路徑，這套模型有望為企業級應用提供更穩定、更高效的檢索基礎設施。