企業能夠通過提供檢索增強生成功能的生產就緒型 NVIDIA NIM 推理微服務，充分挖掘業務數據的價值。這些微服務現已集成到 Cohesity、DataStax、NetApp 和 Snowflake 平臺中。

如果缺乏準確性，生成式 AI 應用不但無法產生價值，有時甚至還會產生負價值。而準確性的根源在于數據。

為幫助開發者高效獲取最佳的專有數據，以便為他們的 AI 應用生成知識淵博的回答，NVIDIA 宣布推出四項全新的 NVIDIA NeMo Retriever NIM 推理微服務。

Llama 3.1 模型集也同期發布。當與適用于該模型集的 NVIDIA NIM 推理微服務相結合時，NeMo Retriever NIM 推理微服務不僅能夠使企業擴展到代理式 AI 工作流（在此工作流中，AI 應用可以在最少的干預或監督下準確運行），還能夠提供極為精準的檢索增強生成（RAG）。

通過 NeMo Retriever，企業可以將自定義模型與各種業務數據無縫連接，并使用 RAG 為 AI 應用作出高度準確的回答。這套生產就緒型微服務實際上為創建高度準確的 AI 應用提供了非常精準的信息檢索功能。

例如當開發者創建 AI 智能體和客服聊天機器人、分析安全漏洞或從復雜的供應鏈信息中提取洞察時，NeMo Retriever 能夠大幅提高模型的準確性和吞吐量。

NIM 推理微服務實現了高性能、易于使用的企業級推理。開發者能夠使用 NeMo Retriever NIM 微服務并充分利用自己的數據，來獲得這一切。

已正式發布的全新 NeMo Retriever 向量化和重排序 NIM 微服務如下：

NV-EmbedQA-E5-v5：一個常用社區基礎向量化模型，針對文本問答檢索進行了優化

NV-EmbedQA-Mistral7B-v2：一個常用多語言社區基礎模型，針對文本向量化功能進行了微調，以實現高度準確的問答

Snowflake-Arctic-Embed-L：一個經過優化的社區模型

NV-RerankQA-Mistral4B-v3：一個常用社區基礎模型，針對文本重排功能進行了微調，以實現高度準確的問答

這些模型加入到 NIM 微服務集中，可通過 NVIDIA API 目錄輕松訪問。

向量化和重排序模型

NeMo Retriever NIM 微服務包含兩種模型——向量化和重排序模型，以及確保透明度和可靠性的開放式和商業化服務。

RAG 管線示例：使用了適用于 Llama 3.1 的 NVIDIA NIM 微服務以及適用于客服 AI 聊天機器人應用的 NeMo Retriever 向量化和重排序 NIM 微服務

向量化模型在將文本、圖像、圖表和視頻等各種數據轉化為數字向量，并存儲在向量數據庫中的同時，獲取其含義和細微差別。與傳統的大語言模型（LLM）相比，向量化模型速度更快且計算成本更低。

重排序模型可獲取數據和查詢，隨后根據數據與查詢的相關性對數據進行評分。與向量化模型相比，這類模型雖然計算復雜且速度較慢，但能大幅提高準確性。

NeMo Retriever 提供了兩全其美的解決方案。開發者可以充分利用 NeMo Retriever 建立一個能夠給企業提供最有用、最準確結果的流程。該流程先通過向量化 NIM 檢索巨大的數據網，然后使用重排序 NIM 篩選結果的相關性。

通過 NeMo Retriever，開發者能夠使用先進的開源商業模型，構建極為精準的文本問答檢索管線。與其他模型相比，NeMo Retriever NIM 微服務在企業問答中提供的不準確答案減少了 30%。

NeMo Retriever 向量化 NIM 和向量化 + 重排序 NIM 微服務性能與詞法搜索和替代向量的對比。

熱門用例

無論是 RAG 和 AI 智能體解決方案，還是數據驅動的分析，NeMo Retriever 都能夠為各種 AI 應用提供助力。

這套微服務可用于創建能夠作出準確、情境感知響應的智能聊天機器人、幫助分析海量數據以識別安全漏洞、從復雜的供應鏈信息中提取洞察等。它們還能勝任許多其他任務，比如幫助 AI 賦能的零售業購物顧問提供自然、個性化的購物體驗。

針對這些用例的 NVIDIA AI 工作流為開發生成式 AI 賦能的技術提供了一個簡單且能夠獲得支持的起點。

數十家 NVIDIA 數據平臺合作伙伴正在使用 NeMo Retriever NIM 微服務提高其 AI 模型的準確性和吞吐量。

DataStax 在其 Astra DB 和超融合平臺中集成了 NeMo Retriever 向量化 NIM 微服務，使企業能夠為客戶提供準確的、經過生成式 AI 增強的 RAG 功能，并加快產品上市時間。

Cohesity 將在其 AI 產品 Cohesity Gaia 中集成 NVIDIA NeMo Retriever 微服務，以便幫助客戶通過 RAG 將自己的數據用于驅動富有洞察力和變革性的生成式 AI 應用。

Kinetica 將使用 NVIDIA NeMo Retriever 開發 LLM 智能體。這些智能體能夠通過自然語言與復雜的網絡進行交互，從而對中斷或漏洞作出更快的響應，將洞察轉化為即時行動。

NetApp 正在與 NVIDIA 合作，將 NeMo Retriever 微服務連接到其智能數據基礎設施上的 EB 級數據。所有 NetApp ONTAP 客戶都將能夠“與他們的數據無縫對話”，在不影響數據安全或隱私的情況下獲得專屬的業務洞察。

NVIDIA 全球系統集成商合作伙伴包括埃森哲、德勤、Infosys、LTTS、Tata Consultancy Services、Tech Mahindra 和 Wipro 等，以及服務交付合作伙伴 Data Monsters、EXLService (愛爾蘭) Limited、Latentview、Quantiphi、Slalom、SoftServe 和 Tredence 正在開發各種服務，幫助企業將 NeMo Retriever NIM 微服務添加到他們的 AI 管線中。

與其他 NIM 微服務一起使用

NeMo Retriever NIM 微服務可與 NVIDIA Riva NIM 微服務一起使用。后者為各行各業的語音 AI 應用提供強大助力，增強了客戶服務并且讓數字人變得栩栩如生。

即將以 Riva NIM 微服務形式推出的新模型包括：適用于文本轉語音應用的 FastPitch 和 HiFi-GAN；適用于多語言神經機器翻譯的 Megatron；以及適用于自動語音識別的破紀錄 NVIDIA Parakeet 系列模型。

NVIDIA NIM 微服務既可以組合使用，也可以單獨使用，為開發者提供構建 AI 應用的模塊化方法。這些微服務還可以在云端、本地或混合環境中與社區模型、NVIDIA 模型或用戶自定義模型集成，為開發者帶來了更大的靈活性。

NVIDIA NIM 微服務現在可在 ai.nvidia.com 上獲取。企業可通過 NVIDIA AI Enterprise 軟件平臺使用 NIM 將 AI 應用部署到生產中。

NIM 微服務可在客戶首選的加速基礎設施上運行，包括亞馬遜云科技、谷歌云、Microsoft Azure 和 Oracle Cloud Infrastructure 的云實例，以及思科、戴爾科技、慧與、聯想和 Supermicro 等全球服務器制造合作伙伴的 NVIDIA 認證系統。

NVIDIA 開發者計劃會員很快將能夠免費使用 NIM，以在他們首選的基礎設施上進行研究、開發和測試。