BlueField SuperNIC 是面向 AI 云數(shù)據(jù)中心的一種網(wǎng)絡加速器，可在 GPU 服務器之間提供可靠、無縫的連接。

生成式 AI 是快速變化的數(shù)字領域的新轉(zhuǎn)折。在此領域的一個突破性創(chuàng)新技術是一個新術語：BlueField SuperNIC。

什么是 BlueField SuperNIC？

BlueField SuperNIC 是一類新型網(wǎng)絡加速器，旨在為基于以太網(wǎng)的 AI 云上運行的超大規(guī)模 AI 工作負載提供強效助力。它為 GPU 到 GPU 通信提供快速的網(wǎng)絡連接，使用基于以太網(wǎng)的遠程直接內(nèi)存訪問（RoCE）技術實現(xiàn) 400Gb/s 的速度。

BlueField SuperNIC 結合了以下獨特屬性：

• 高速數(shù)據(jù)包重排序可確保數(shù)據(jù)包的接收和處理順序與源端發(fā)送的順序相同。這可保持數(shù)據(jù)流的順序完整性。

• 使用實時遙測數(shù)據(jù)和網(wǎng)絡感知算法進行高級擁塞控制，以管理和預防 AI 網(wǎng)絡中的擁塞。

• 輸入/輸出 (I/O) 路徑上的可編程計算，可實現(xiàn) AI 云數(shù)據(jù)中心網(wǎng)絡基礎設施的自定義和可擴展性。

• 節(jié)能高效的半高設計，可在有限的功率預算范圍內(nèi)高效適應 AI 工作負載。

• 全棧 AI 優(yōu)化，包括計算、網(wǎng)絡、存儲、系統(tǒng)軟件、通信庫和應用框架。

NVIDIA 最近推出了全球首款專為 AI 計算定制的 BlueField SuperNIC，基于 BlueField-3 網(wǎng)絡平臺。它是 NVIDIA Spectrum-X 平臺的一部分，與 Spectrum-4 以太網(wǎng)交換機系統(tǒng)無縫集成。

NVIDIA BlueField-3 SuperNIC 和 Spectrum-4 交換機系統(tǒng)共同構成專為優(yōu)化 AI 工作負載而設計的加速計算架構。Spectrum-X 始終如一地提供極高網(wǎng)絡效率水平，遠超傳統(tǒng)的以太網(wǎng)環(huán)境。

NVIDIA DPU 和網(wǎng)卡產(chǎn)品副總裁 Yael Shenhav 表示：“AI 正在推動新一波的技術創(chuàng)新，BlueField-3 SuperNIC 是其中至關重要的一個齒輪。BlueField SuperNIC 可確保您的 AI 工作負載得到高效和快速的執(zhí)行，必將成為實現(xiàn) AI 計算未來的基礎組件。”

不斷發(fā)展的 AI 和網(wǎng)絡格局

AI 領域正在經(jīng)歷一場地震級轉(zhuǎn)變，這要歸功于生成式 AI 和大語言模型，這些強大的技術釋放了新的可能性，使計算機能夠處理新任務。

AI 的成功很大程度上依賴于 GPU 加速計算來處理海量數(shù)據(jù)、訓練大型 AI 模型并實現(xiàn)實時推理。這種新的計算能力開辟了新的可能性，但也對以太網(wǎng)云網(wǎng)絡提出了挑戰(zhàn)。

傳統(tǒng)以太網(wǎng)是互聯(lián)網(wǎng)基礎設施的基礎技術，旨在提供廣泛的兼容性和連接松耦合的應用程序。它的設計并不是為了滿足現(xiàn)代 AI 工作負載的苛刻計算需求，這些工作負載涉及緊耦合的并行處理、快速數(shù)據(jù)傳輸和獨特的通信模式，所有這些都需要優(yōu)化的網(wǎng)絡連接。

傳統(tǒng)網(wǎng)絡接口卡（NIC）為通用計算、通用數(shù)據(jù)傳輸和互操作性而設計，并沒有為 AI 工作負載計算強度帶來的獨特挑戰(zhàn)進行優(yōu)化設計。

標準網(wǎng)卡（NIC）缺乏必要的特性和功能來實現(xiàn)高效的數(shù)據(jù)傳輸、低延遲和對 AI 任務至關重要的確定性能。而 BlueField SuperNIC 則專為現(xiàn)代 AI 工作負載而構建。

AI 計算環(huán)境中的 BlueField SuperNIC 優(yōu)勢

數(shù)據(jù)處理器（DPU）提供豐富的高級功能，可提供高吞吐量、低延遲的網(wǎng)絡連接等。自 2020 年推出以來，DPU 在云計算領域越來越受歡迎，主要是因為其能夠卸載、加速和隔離數(shù)據(jù)中心基礎設施處理。

盡管 DPU 和 BlueField SuperNIC 具有一系列相同的特性和功能，但 BlueField SuperNIC 針對 AI 加速網(wǎng)絡進行了獨特的優(yōu)化。下圖顯示了它們的對比情況：

分布式 AI 訓練和推理通信流很大程度上取決于網(wǎng)絡帶寬的可用性。BlueField SuperNIC 以其獨特的設計而引人注目，其擴展比 DPU 更有效，每個 GPU 可提供驚人的 400Gb/s 網(wǎng)絡帶寬。

系統(tǒng)內(nèi) GPU 與 BlueField SuperNIC 的 1:1 配比可以顯著提高 AI 工作負載效率，從而提高企業(yè)的生產(chǎn)力和卓越成果。

BlueField SuperNIC 的唯一目的是加速 AI 云計算的網(wǎng)絡。因此，它比 DPU 消耗更少的計算能力，而 DPU 需要大量計算資源來卸載主機 CPU 中的應用程序。

計算需求的降低也轉(zhuǎn)化為功耗的降低，這在包含多達 8 個 BlueField SuperNIC 的系統(tǒng)中尤為重要。

BlueField SuperNIC 的其他顯著特性包括其專用的 AI 網(wǎng)絡功能。當與為 AI 優(yōu)化的 NVIDIA Spectrum-4 交換機緊密集成時，它提供了自適應路由、亂序數(shù)據(jù)包處理和優(yōu)化的擁塞控制。這些高級功能有助于加速以太網(wǎng) AI 云環(huán)境。

革新 AI 云計算

NVIDIA BlueField-3 SuperNIC 具有多項優(yōu)勢，是 AI 基礎設施就緒的關鍵：

• AI 工作負載峰值效率：BlueField-3 SuperNIC 專為網(wǎng)絡密集型大規(guī)模并行計算而構建，是 AI 工作負載的理想選擇。它可確保 AI 任務高效運行，消除通信瓶頸。

• 一致且可預測的性能：在同時處理大量任務的多租戶數(shù)據(jù)中心，BlueField-3 SuperNIC 可確保每個作業(yè)和租戶的性能都是隔離的、可預測的，并且不受其他網(wǎng)絡活動的影響。

• 安全的多租戶云基礎設施：安全是重中之重，尤其是在處理敏感信息的數(shù)據(jù)中心。BlueField-3 SuperNIC 保持極高的安全級別，使多個租戶能夠共存，同時保持數(shù)據(jù)和處理隔離。

• 可擴展的網(wǎng)絡基礎設施：BlueField-3 SuperNIC 的范圍并不受限，它高度靈活，可適應各種其他網(wǎng)絡基礎設施需求。

• 廣泛的服務器制造商支持：BlueField-3 SuperNIC 無縫適用于大多數(shù)企業(yè)級服務器，無需額外供電，為數(shù)據(jù)中心實現(xiàn)高效節(jié)能。

掃描下方二維碼，閱讀白皮書，詳細了解 NVIDIA BlueField-3 SuperNIC，包括它們?nèi)绾慰?NVIDIA 數(shù)據(jù)中心平臺進行集成：新一代網(wǎng)絡，迎接新一波 AI 浪潮。

?

更多精彩內(nèi)容 利用 NVIDIA DOCA Flow 實現(xiàn) DPU 加速數(shù)據(jù)包轉(zhuǎn)向邏輯
使用 NVIDIA BlueField DPU 加速 Suricata IDS / IPS
使用 NVIDIA BlueField-3 DPU 驅(qū)動下一波應用程序 ? ?

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會議中心舉行，線上大會也將同期開放。掃描下方海報二維碼，立即注冊 GTC 大會。