經NVIDIA優化、認證并支持用于VMware vSphere的NVIDIA AI Enterprise套件，為混合云帶來AI和數據科學應用的擴展性能和兼容性

由于企業紛紛通過對數據中心進行現代化升級來為AI應用和數據科學提供支持，NVIDIA和VMware大幅簡化了現代混合云中各種不同AI工作負載的開發和部署。

兩家公司聯合使用NVIDIA AI Enterprise軟件套件對剛剛發布的vSphere更新——VMware vSphere 7 Update 2進行了AI應用優化（見下圖1）。對于數十萬家使用vSphere實現計算虛擬化的企業而言，這一組合為他們的大量加速CUDA應用、AI框架、模型和SDK實現了擴展性、多節點性能和兼容性。

通過此次業內首創的合作，AI研究人員、數據科學家和開發者獲得了成功交付AI項目所需的軟件，而IT專業人員能夠使用他們最熟悉的大規模數據中心管理工具為AI提供不折不扣的支持。

圖1：用于VMware vSphere的NVIDIA AI Enterprise在NVIDIA認證系統上運行，使IT部門能夠輕松地大規模部署虛擬化AI。

完整齊全的企業級AI套件

NVIDIA AI Enterprise是一套完整齊全的企業級AI工具和框架，它能夠幫助制造、物流、金融服務、零售和醫療健康等眾多關鍵行業優化業務流程、提升效率。憑借NVIDIA AI Enterprise，科學家和AI研究人員可以輕松訪問NVIDIA領先的AI工具，推動高級診斷、智能工廠、欺詐檢測等項目的AI發展。

該解決方案解決了部署單個AI應用的復雜性問題，以及由于必須手動配置和管理各種不兼容的應用和基礎設施軟件而可能導致的潛在故障。

憑借在vSphere上運行的NVIDIA AI Enterprise，客戶可以避免難以管理和不安全的AI專用系統孤島。同時，還可以降低部署shadow AI（即數據科學家和機器學習工程師在IT生態系統之外采購資源）的風險。

在獲得NVIDIA許可證后，AI Enterprise for vSphere可在NVIDIA認證系統上得到支持。獲得NVIDIA認證系統認證的服務器包括戴爾科技、新華三、慧與、浪潮、聯想和超微等高容量服務器。即便是最先進、要求最嚴苛的AI應用，也能像傳統企業工作負載一樣，在通用基礎設施上通過VMware vCenter等數據中心管理工具輕松獲得支持。

IT部門可以管理可用性、優化資源分配，并在本地和混合云中運行的AI工作負載保障其寶貴的IP和客戶數據的安全。

可擴展多節點虛擬化AI性能

NVIDIA AI Enterprise使虛擬工作負載能夠在vSphere上以接近裸金屬的性能運行，并通過NVIDIA A100 GPU在AI和數據科學領域獲得突破性性能（見下表1）。現在，AI工作負載可以擴展到多個節點，即便是具有完整GPU虛擬化的最大規模的深度學習訓練模型也可以在VMware Cloud Foundation上運行。

表1：用于 vSphere的NVIDIA AI Enterprise使分布式深度學習訓練可線性擴展至多個節點，并提供與裸機完全相同的性能。

AI工作負載規模不一，對數據的要求也不盡相同。有些需要處理圖像，例如實時流量報告系統或網上購物推薦系統等；另一些則基于文本，比如由對話式AI驅動的客戶服務支持系統等。

訓練一個AI模型需要使用的數據量可能令人難以置信，而且需要在多個節點的多個GPU上擴展性能。在部署中的模型上運行推理所需的計算資源一般較少，并且可能不需要用到整個GPU的性能。

NVIDIA與VMware一起將vSphere打造成唯一一款通過NVIDIA多實例 GPU（MIG）技術為實時遷移提供虛擬機監視器支持的計算虛擬化軟件。憑借MIG技術，每個A100 GPU可以在硬件層面被分割成多至7個實例，從而最大限度地提高各種規模工作負載的效率。

豐富的AI應用和基礎設施資源

NVIDIA AI Enterprise包含了NVIDIA的關鍵技術和軟件。通過它們，可以在VMware Cloud Foundation上運行的虛擬化數據中心中快速部署、管理和擴展AI工作負載。

NVIDIA AI Enterprise是一款經過認證的端到端套件，包含了NVIDIA的關鍵AI技術、應用及企業支持服務。

預計在升級到vSphere 7 U2時采用NVIDIA AI Enterprise的客戶，可以聯系NVIDIA和VMware提出需求。