從數(shù)據(jù)中心到人工智能工廠

NVIDIA DOCA 引領(lǐng)加速云服務(wù)的發(fā)展

NVIDIA DOCA 2.0

支持全新的 BlueField-3 用例

NVIDIA DOCA 2.0 添加了增強(qiáng)功能，以利用 BlueField-3 DPA 編程子系統(tǒng)。DPA 是一種高度可編程的嵌入式處理器，存在于 BlueField-3 DPU 中。它專為網(wǎng)絡(luò)密集型、低計(jì)算量任務(wù)而構(gòu)建，如設(shè)備仿真、擁塞控制、自定義協(xié)議等。

NVIDIA DOCA DPA 庫是 NVIDIA DOCA 軟件開發(fā)套件的一部分，它提供了一種編程模型，用于卸載以網(wǎng)絡(luò)為中心的代碼，并在 DPA 處理器上運(yùn)行。DPA 有助于從 CPU 卸載更多類型的流量，并通過 DPU 加速來提高性能。

在使用 VirtIO-net 進(jìn)行設(shè)備仿真時(shí)，NVIDIA DOCA 和帶有 DPA 的 BlueField-3 DPU 比以前的選項(xiàng)有了顯著的改進(jìn)。在虛擬化環(huán)境中，虛擬機(jī)（VM）需要像物理機(jī)一樣訪問網(wǎng)絡(luò)。

在此示例中，虛擬機(jī)通常調(diào)用 CPU 來處理特定任務(wù)，例如訪問網(wǎng)卡。將此任務(wù)從 CPU 卸載到 BlueField-3 DPU 上專門構(gòu)建的 DPA 引擎，可實(shí)現(xiàn)比 BlueField-2 DPU 高 2 倍的性能，以更高的效率來助力降低數(shù)據(jù)中心功耗。這有效地消除了數(shù)據(jù)中心網(wǎng)絡(luò)稅，否則就會(huì)占用本該用于應(yīng)用程序的 CPU 核心資源。

IPsec 是一種安全協(xié)議，提供加密、身份驗(yàn)證和完整性服務(wù)，以保護(hù) IP 數(shù)據(jù)包免受未經(jīng)授權(quán)的訪問、篡改或竊聽。對安全和高速通信的需求日益增長，這給傳統(tǒng)基于 CPU 的 IPsec 處理帶來了壓力，使卸載成為一種有吸引力的解決方案。

在加速防火墻解決方案中，將 IPsec 卸載到 BlueField-3 DPU 可以優(yōu)化安全性并加速性能。穿過防火墻的流量可以卸載到 DPU，并通過 IPsec 隧道發(fā)送到接收主機(jī)，例如，提供具有 200 Gbps 雙向流量的 32K 并發(fā) IPsec 隧道。這降低了 CPU 的利用率，并通過快速、高效的方法管理可信流量。需要進(jìn)行威脅檢查的剩余流量通過主機(jī)和 CPU 進(jìn)行路由。此過程現(xiàn)已得到優(yōu)化，由于 CPU 不再管理 IPsec 流量，因此防火墻應(yīng)用程序可提供更好的性能。

DOCA IPsec 庫的添加為下一代防火墻（NGFW）應(yīng)用程序帶來了顯著的優(yōu)勢。庫中包含的資源池，包括消息模板、預(yù)寫代碼和子例程，有助于簡化整個(gè)開發(fā)流程并減少上市時(shí)間。DOCA IPsec 庫與 DOCA Flow 庫相互操作，使開發(fā)者能夠?qū)⒍鄠€(gè) DOCA Flow 管道鏈接在一起，用于各種網(wǎng)絡(luò)管線設(shè)計(jì)（例如，DOCA Flow NAT 管道）。

最后，NVIDIA DOCA 現(xiàn)在能夠以更高的速率對新路由和 NAT 表進(jìn)行編程，使以接近線速速率進(jìn)行 IPsec 加密和解密既可行又實(shí)用，同時(shí)減輕了 CPU 的負(fù)擔(dān)。

NVIDIA Aerial 是一個(gè)用于構(gòu)建高性能、軟件定義 5G L1 堆棧的軟件開發(fā)套件，并通過 GPU 的并行處理進(jìn)行了優(yōu)化。具體而言，NVIDIA Aerial 軟件開發(fā)套件可用于構(gòu)建基帶單元（BBU）軟件，該軟件負(fù)責(zé)發(fā)送（下行鏈路）或接收（上行鏈路）的無線客戶端數(shù)據(jù)幀，這些數(shù)據(jù)幀通過無線電單元（RU）分拆為多個(gè)以太網(wǎng)數(shù)據(jù)包。

在上行鏈路中，BBU 接收分組，驗(yàn)證它們，并在觸發(fā)信號(hào)處理之前重建每個(gè) RU 的原始數(shù)據(jù)幀。使用 NVIDIA Aerial 軟件開發(fā)套件，這將發(fā)生在 GPU 中，每個(gè)時(shí)隙的 RU 都有一個(gè)專用的 CUDA 內(nèi)核。然而，隨著基站數(shù)量的增加，在網(wǎng)卡和 GPU 之間運(yùn)行的 CPU 成為了瓶頸。

NVIDIA DOCA 軟件框架提供了一種將 CPU 從關(guān)鍵路徑中移除并實(shí)現(xiàn)網(wǎng)卡和 CUDA 內(nèi)核之間的直接通信的方法（GPUDirect 異步內(nèi)核啟動(dòng)技術(shù)）。新的 DOCA GPUNetIO 庫提供了 CUDA 設(shè)備功能，應(yīng)用程序可以在 CUDA 內(nèi)核中調(diào)用這些功能，以便直接向 GPU 發(fā)送或從 GPU 接收數(shù)據(jù)包，而無需使用 CPU 核心或內(nèi)存。

通過這種方式，NVIDIA Aerial BBU 軟件可以提供一種高度并行化和可擴(kuò)展的方法，每個(gè)基站都有一個(gè)專用的 CUDA 內(nèi)核來接收數(shù)據(jù)包。這使系統(tǒng)容量提高了 4 倍（從采用以 CPU 為中心的 4 個(gè)基站到通過 DOCA GPUNetIO 的以 GPU 為中心的 16 個(gè)基站）。

CPU 不再需要與 GPU 通信來提供數(shù)據(jù)包信息，使 CPU 能夠?qū)Ｗ⒂趹?yīng)用程序處理，而不是管理網(wǎng)絡(luò)開銷。

掃描下方二維碼，立即注冊 NVIDIA DOCA GPUNetIO 搶先體驗(yàn)計(jì)劃。

加速人工智能服務(wù)