數(shù)以萬計的 NVIDIA GPU、NVIDIA Quantum-2 InfiniBand 以及全棧式 NVIDIA AI 軟件即將登陸 Azure；NVIDIA、微軟和多家全球企業(yè)將使用該平臺進行快速、經(jīng)濟的 AI 開發(fā)和部署

NVIDIA 于昨日宣布與微軟展開一項為期多年的合作，雙方將共同打造全球最強大的 AI 超級計算機。微軟 Azure 的先進超級計算基礎(chǔ)設(shè)施，結(jié)合 NVIDIA GPU、網(wǎng)絡(luò)和全棧式 AI 軟件為此超級計算機賦能，以幫助企業(yè)訓(xùn)練、部署和擴展包括大型、先進模型在內(nèi)的 AI。

Azure 的云端 AI 超級計算機包括強大、可擴展 ND 與 NC 系列虛擬機，其專為 AI 分布式訓(xùn)練和推理而優(yōu)化。Azure是首個采用 NVIDIA 先進 AI 堆棧的公有云，在其平臺上添加了數(shù)以萬計的 NVIDIA A100 和 H100 GPU、NVIDIA Quantum-2 400Gb/s InfiniBand 網(wǎng)絡(luò)和 NVIDIA AI Enterprise 軟件套件。

此次合作中，NVIDIA 將使用 Azure 的可擴展虛擬機實例來研究并進一步加快生成式 AI 的發(fā)展。生成式 AI 是正在迅速興起的 AI 領(lǐng)域，其中像 Megatron Turing NLG 530B 這樣的基礎(chǔ)模型是無監(jiān)督、自學(xué)習(xí)算法的基準，這些算法被用來創(chuàng)造新的文本、代碼、數(shù)字圖像、視頻或音頻。

兩家公司還將合作優(yōu)化微軟的 DeepSpeed 深度學(xué)習(xí)優(yōu)化軟件。NVIDIA 的全棧式 AI 工作流和軟件開發(fā)工具包皆專為 Azure 進行了優(yōu)化，并將提供給 Azure 企業(yè)客戶。

NVIDIA 企業(yè)計算副總裁 Manuvir Das 表示：“AI 技術(shù)正在加速發(fā)展，行業(yè)的采用速度也在同時加快。基礎(chǔ)模型上的突破引發(fā)了研究浪潮、培育了新的初創(chuàng)企業(yè)并啟動了新的企業(yè)應(yīng)用程序。我們將與微軟一同為研究者和企業(yè)提供最先進的 AI 基礎(chǔ)設(shè)施和軟件，使他們能夠充分利用 AI 的變革性力量。”

微軟云與 AI 事業(yè)部執(zhí)行副總裁 Scott Guthrie 表示：“AI 正在掀起整個企業(yè)和工業(yè)計算的下一輪自動化浪潮，幫助企業(yè)機構(gòu)在變幻莫測的經(jīng)濟環(huán)境中得以事半功倍。我們與 NVIDIA 合作，打造全球可擴展性最強的超級計算機平臺，為微軟 Azure 上的每家企業(yè)提供最先進的 AI 功能。”

通過 Azure 上的 NVIDIA 計算與

Quantum-2 InfiniBand實現(xiàn)可擴展峰值性能

微軟 Azure 的 AI 優(yōu)化虛擬機實例采用了 NVIDIA 最先進的數(shù)據(jù)中心 GPU，并且是首個搭載 NVIDIA Quantum-2 400Gb/s InfiniBand 網(wǎng)絡(luò)的公有云實例。客戶可以在單個集群中部署數(shù)千 GPU 來訓(xùn)練最具規(guī)模的大型語言模型，大規(guī)模地構(gòu)建最復(fù)雜的推薦系統(tǒng)以及實現(xiàn)生成式 AI。

目前的 Azure 實例采用了 NVIDIA Quantum 200Gb/s InfiniBand 網(wǎng)絡(luò)和 NVIDIA A100 GPU。未來的實例將集成 NVIDIA Quantum-2 400Gb/s InfiniBand 網(wǎng)絡(luò)和 NVIDIA H100 GPU。結(jié)合 Azure 先進的計算云基礎(chǔ)設(shè)施、網(wǎng)絡(luò)和存儲，這些通過 AI 優(yōu)化的產(chǎn)品將為任何規(guī)模的 AI 訓(xùn)練和深度學(xué)習(xí)推理工作負載提供可擴展的峰值性能。

加速 AI 的開發(fā)和部署

另外，該平臺將支持廣泛的 AI 應(yīng)用和服務(wù)，包括微軟 DeepSpeed 和 NVIDIA AI Enterprise 軟件套件。

微軟 DeepSpeed 將使用 NVIDIA H100 Transformer 引擎來加速基于 Transformer 的模型，這些模型可用于大型語言模型、生成式 AI 和編寫計算機代碼等應(yīng)用。該技術(shù)將 8 位浮點精度能力應(yīng)用于 DeepSpeed，大大加快了 Transformer 的 AI 計算速度，使其吞吐量達到 16 位運算的兩倍。

被全球企業(yè)廣泛采用的 NVIDIA AI 平臺軟件 NVIDIA AI Enterprise 已通過認證并支持搭載 NVIDIA A100 GPU 的微軟 Azure 實例。未來的軟件版本將增加對搭載 NVIDIA H100 GPU 的 Azure 實例的支持。

NVIDIA AI Enterprise 包括用于語音 AI 的 NVIDIA Riva 以及 NVIDIA Morpheus 網(wǎng)絡(luò)安全應(yīng)用框架，可簡化從數(shù)據(jù)處理和 AI 模型訓(xùn)練到仿真和大規(guī)模部署等 AI 工作流中的每一步。