生成式 AI 已經跨越鴻溝并達到“ iPhone 時刻”，現在必須能夠擴展以滿足指數級增長的需求。可靠性和正常運行時間對于打造企業級生成式 AI 至關重要，尤其是當 AI 成為業務運轉的核心時。NVIDIA 正在將專業知識投入到解決方案的開發過程中，助力企業實現這樣的飛躍。

推出 NVIDIA AI Enterprise 4.0

最新版NVIDIA AI Enterprise助力利用生成式 AI 進行創新的企業加速開發，為企業提供生產就緒型支持、可管理性、安全性和可靠性。

使用 NVIDIA NeMo 快速大規模

訓練、定制和部署大語言模型

生成式 AI 模型具有數十億個參數，需要高效的數據訓練管道。訓練模型的復雜性、針對特定領域任務進行定制以及大規模部署模型都需要專業知識和計算資源。

NVIDIA AI Enterprise 4.0包括NVIDIA NeMo，這是一個端到端云原生框架，用于大規模數據管理、大語言模型的加速訓練和定制，以及在用戶首選平臺上優化推理。從云到桌面工作站，NVIDIA NeMo 提供了一個簡單易用的方案，并通過加速的基礎設施實現性能優化，大幅縮短解決方案的開發時間，提高了投資回報率。

使用 AI 工作流更快地構建生成式 AI 應用

NVIDIA AI Enterprise 4.0引入了兩種新的 AI 工作流，用于構建生成式 AI 應用：采用檢索增強生成技術的 AI 聊天機器人和魚叉式網絡釣魚檢測。

生成式 AI 知識庫聊天機器人工作流利用檢索增強生成技術，能夠加快基于專有數據進行調優的生成式 AI 聊天機器人的開發和部署。這些聊天機器人從公司的知識庫中檢索信息，并用自然語言生成實時回答，從而實現準確地回答特定領域的問題。它使用預訓練的大語言模型、NeMo 、NVIDIA Triton 推理服務器，以及包括 Langchain 和矢量數據庫在內的第三方工具來訓練和部署知識庫問答系統。

魚叉式網絡釣魚檢測 AI 工作流使用 NVIDIA Morpheus 和包含 NVIDIA NeMo 的生成式 AI 來訓練一個模型，該模型在郵件進入收件箱之前就能檢測到高達 90% 的魚叉式網絡釣魚電子郵件。

防范魚叉式網絡釣魚電子郵件是一大挑戰。原因是魚叉式網絡釣魚電子郵件與正常電子郵件難以區分，欺詐和合法電子郵件之間的唯一區別是發件人的意圖。這也是為什么傳統的魚叉式網絡釣魚檢測機制無法滿足要求的原因。

隨時隨地開發 AI

企業采用 AI 可能需要更多熟練的 AI 開發者和數據科學家。組織將需要一個由優化的硬件和軟件組成的靈活的高性能基礎設施，以最大限度地提高生產力并加快 AI 開發。結合用于工作站的 NVIDIA RTX 6000 Ada 架構 GPU，NVIDIA AI Enterprise 4.0 為 AI 開發者提供了一個單獨的平臺，開發者可以在這個平臺上開發 AI 應用并將其部署到生產中。

除了桌面工作站，NVIDIA 還為 AI 工作負載提供了完整的基礎設施組合，包括 NVIDIA H100、L40S、L4 GPU，以及與 NVIDIA BlueField 數據處理單元的加速聯網。通過HPE Machine Learning Data Management ( HPE 機器學習數據管理)、HPE Machine Learning Development Environment ( HPE 機器學習開發環境)、Ubuntu KVM 和 Nutanix AHV 虛擬化支持，組織可以使用本地基礎設施來運行 AI 工作負載。

管理 AI 工作負載和基礎設施

NVIDIA Triton Management Service 是 NVIDIA AI Enterprise 4.0 的獨家補充，通過高效利用 GPU 資源的模型編排，可自動在 Kubernetes 中部署多個 Triton 推理服務器。通過從多個來源加載模型和分配計算資源，它簡化了部署。Triton 管理服務可以在 NVIDIA LaunchPad 上試用。

NVIDIA AI Enterprise 4.0 還包括集群管理軟件 NVIDIA Base Command Manager Essentials，用于簡化集群配置、工作負載管理、基礎設施監測和使用情況報告。通過動態擴展和基于策略的資源分配，它能夠簡化 AI 工作負載的管理和部署，同時確保集群的完整性。

新的 AI 軟件、工具和預訓練的基礎模型

NVIDIA AI Enterprise 4.0 還提供更多的框架和工具以推進 AI 開發。NVIDIA Modulus 是一個用于通過簡單的 Python 接口構建、訓練和調優物理機器學習模型的框架。

通過 Modulus，用戶可以利用 AI 增強工程模擬，并進行跨學科的企業級數字孿生應用建模，包括計算流體動力學（CFD）、結構力學和電磁學。Deep Graph Library 容器旨在實現和訓練圖神經網絡，幫助科學家研究分子或金融服務的圖結構，以檢測欺詐。

最后，還有三個專有預訓練基礎模型，它們是 NVIDIA TAO 的一部分，能夠加快視覺 AI 、缺陷檢測和零售損失預防等行業應用投入生產所需的時間。

NVIDIA AI Enterprise 4.0是迄今為止對該平臺最全面的升級。憑借企業級的安全性、穩定性、可管理性和支持，企業可以期待可靠的 AI 正常運行時間和不間斷的 AI 卓越表現。

開始使用 NVIDIA AI Enterprise

快速使用NVIDIA AI Enterprise的三種方式：

• 注冊 NVIDIA LaunchPad，可在短期內訪問試用實驗室。

• 注冊現有本地或云基礎設施的 90 天免費評估版。

• 通過 NVIDIA 合作伙伴網絡或包括 AWS、Microsoft Azure 和谷歌云在內的大型云服務提供商購買。

NVIDIA AI Enterprise 90 天評估版現已推出。點擊“閱讀原文”，通過訪問 NGC，即可獲取免費試用。

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會議中心舉行，線上大會也將同期開放。掃描下方海報二維碼，關注更多會議及活動信息。