AI 正在深入各行各業的轉型，助力流程實現自動化，也為技術的快速發展帶來新的創新機遇。也有越來越多的企業意識到了將 AI 整合到企業運營中的價值，但也隨之面臨各式挑戰，包含如何以高效、有效且可靠的方式實現這些技術的落地。

NVIDIA AI Enterprise 是一款全面的軟件套件，專門用于幫助企業大規模實現企業就緒的 AI、機器學習（ML）和數據分析，并提供安全性、可靠性、API 穩定性和企業級支持。

什么是 NVIDIA AI Enterprise？

部署 AI 解決方案可能十分復雜，不僅需要專業的軟硬件，也需要開發和維護這些系統的專業知識。NVIDIA AI Enterprise 通過提供了針對企業環境定制的工具、庫、框架和支持服務的完整生態系統來應對這些挑戰。

借助 GPU 加速計算能力，NVIDIA AI Enterprise 使企業能夠更加高效、更加節省成本并且大規模地運行 AI 工作負載。NVIDIA AI Enterprise 基于 NVIDIA CUDA-X AI 軟件堆棧建立，可提供高性能的 GPU 加速計算能力。

該套件包含：

1. VMI：預配置的虛擬機鏡像，包含必需的驅動程序和軟件，以支持各主要云中的 GPU 加速 AI 工作負載。

2. AI 框架：可在 VMI 中運行的軟件（如 PyTorch、TensorFlow、RAPIDS、支持 TensorRT 和 ONNX 的 NVIDIA Triton 等），作為 AI 開發和部署的基礎。

3. 預訓練模型：可按原樣使用，或在企業相關數據上進行微調的模型。

4. AI 工作流：預安裝的參考示例，用于說明如何使用 AI 框架和預訓練模型，以解決常見業務問題。這些工作流圍繞預訓練模型微調和 AI 模型創建提供指導，以便在 NVIDIA 框架的基礎上進行構建；重點介紹了創建應用的管道，并提供了有關如何部署自定義應用并將其與企業環境中常見的各種組件（如編排和管理軟件、存儲、安全以及網絡）集成的意見。

可用的 AI 工作流包括：

• 智能虛擬助理：提供全天候聯絡中心協助，可降低運營成本。

• 音頻轉錄：通過 GPU 優化模型實現全球領先的精準轉錄。

• 數字指紋威脅檢測：對網絡安全威脅檢測和警報進行優先級別排序，更快地識別和行動。

• 商品預測： 通過個性化的產品推薦，提升客戶互動和留存。

• 路線優化：通過車輛和機器人路線優化，減少移動時間、降低燃料成本。

支持的軟件和版本分支

使用 NVIDIA AI Enterprise 軟件的主要優勢之一是，能夠獲得 NVIDIA 以安全性和穩定性為原則的支持。NVIDIA AI Enterprise 包含三個版本分支，可滿足各個行業及用例的不同需求：

1. 最新版本：該分支面向需要頂級軟件優化的用戶，按每月發布一次，確保用戶能夠獲得最新的功能和優化。CVE 補丁程序和錯誤修復也包含在滾動式版本中。

2. 生產版本：該分支專門用于優先考慮 API 穩定性的環境，將每月接收 CVE 補丁和漏洞修復，每年發布兩個新分支且每個分支的生命周期為 9 個月。為確保無縫過渡和持續提供支持，兩個連續的生產分支之間將有 3 個月的重疊期。生產版本分支將于 2023 年下半年推出。

3. 長期版本：該分支專為需要長期支持的高度監管行業所量身定制，將每季度接收 CVE 補丁和錯誤修復，并為特定版本提供長達 3 年的支持。除了這一長期穩定性之外，還有 6 個月的重疊期以確保版本之間的平穩過渡，從而為受到高度監管的行業提供其所需使用壽命和一致性。

圖 1. NVIDIA AI Enterprise 的三個版本分支可滿足各個行業和用例的不同需求

如何結合使用 NVIDIA AI Enterprise

與 Microsoft Azure 機器學習

Microsoft Azure 機器學習是一個用于在云端和本地進行 AI 開發的平臺，包含了用于訓練、實驗、部署和監控模型的服務，并且能夠為大語言模型設計和構建提供提示流。作為一個開放平臺，Azure 機器學習支持所有流行的機器學習框架和套件，包括 NVIDIA AI Enterprise 提供的框架和套件。

將 NVIDIA AI 軟件與 Azure 機器學習訓練和推理平臺集成，優化了前者的運行體驗。用戶無需再花時間設置訓練環境、安裝軟件包、編寫訓練代碼、記錄訓練指標和部署模型，即可充分利用 NVIDIA 企業就緒軟件的強大功能，并在 Azure 機器學習高性能、安全基礎設施的加成下，構建生產就緒 AI 工作流。

如開始使用，請按照以下步驟操作：

1. 登錄 Microsoft Azure 并啟動 Azure 機器學習工作室。

2. NVIDIA AI Enterprise 預覽版注冊表中查看并訪問所有預構建的 NVIDIA AI Enterprise 組件、環境和模型（圖 2）。

圖 2. Azure 機器學習上的 NVIDIA AI Enterprise 預覽版注冊表

3. 在工作區中使用這些資產，通過簡單的拖曳操作在設計器中創建 ML 管道（圖 3）。

圖 3. Azure 機器學習中使用 NVIDIA AI Enterprise 組件的管道

用例：人體姿態估計

NVIDIA AI Enterprise 預覽版注冊表中的各種元素使用起來非常簡單。本示例展示了一項使用 NVIDIA DeepStream 進行人體姿態估計的計算機視覺任務。NVIDIA TAO 工具套件提供了人體姿態模型的基礎，并能夠使用新數據對其進行完善。

圖 4 展示了一個運行 NVIDIA DeepStream 示例應用程序進行人體姿態估計的視頻分析管道。該應用在 GPU 集群上運行并且能夠輕松調整，以便使用更新的模型和視頻，從而解鎖 Azure 機器學習平臺的強大功能。

圖 4. NVIDIA TAO 工具套件和 NVIDIA DeepStream 使用 Azure 機器學習進行人體姿態估計

該示例包含兩個基于 URI 的數據資產，用于存儲 DeepStream 示例應用命令組件的輸入。這些數據資產使用的預訓練模型，在 NVIDIA AI Enterprise 注冊表中隨時可用，還包含額外的校準和標簽信息。

DeepStream 人體姿態命令組件被設置為使用 Microsoft Azure Blob 存儲。該組件會監控輸入目錄中是否有需要推理的新視頻文件。當出現視頻文件時，該組件會拾取并執行人體姿態推理。輸出的視頻加入了邊界框和跟蹤線，并存儲在輸出目錄中。

該注冊表中的其他示例包括：

• bodyposenet

• citysemsegformer

• dashcamnet

• emotionnet

• fpenet

• gazenet

• gesturenet

• lprnet

• peoplenet

• peoplenet_transformer

• peoplesemsegnet

• reidentificationnet

• retail_object_detection

• retail_object_recognition

• trafficcamnet

每一個示例都可以通過基于TAO 工具套件的訓練管道執行遷移學習并加以改進。模型的輸出結果會根據具體的用例發生變化。您可以在 NGC 上找到 TAO 工具套件的計算機視覺示例工作流程。

開始在 Azure 機器學習上

使用 NVIDIA AI Enterprise

NVIDIA AI Enterprise 和 Azure 機器學習共同打造了一個強大的組合，將 GPU 加速計算與基于云的全面機器學習平臺進行融合，使企業能夠更加高效地開發和部署 AI 模型。這協同增效使企業能夠在利用云資源靈活性的同時，也充分發揮 NVIDIA GPU 和軟件的性能優勢。

如您想要開始使用 Azure 機器學習上的 NVIDIA AI Enterprise，請注冊技術預覽版(https://www.nvidia.com/en-us/data-center/solutions/mlops/?nvmid=reg-btn)，以訪問 Azure 機器學習上的 NVIDIA AI Enterprise 預覽版注冊表中的所有預構建組件、環境和模型。

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會議中心舉行，線上大會也將同期開放。掃描下方海報二維碼，立即注冊 GTC 大會。