現代數據中心變得越來越難以管理。應用程序和 PB 級日志數據之間有數十億條可能的連接路徑。靜態規則不足以適應動態微服務的安全策略,而且人工已經無法應對數量龐大的日志數據的分析。
AI 是通往未來安全和自主管理式數據中心的唯一出路。
NVIDIA 融合加速器在業界率先推出 AI 增強型 DPU。它將 GPU 的強大計算能力與 DPU 的網絡加速和安全優勢相結合,為 AI 增強型數據中心管理創造了統一平臺。融合加速器可將 AI 生成的規則應用于數據中心網絡中的每個數據包,為實現實時安全和管理創造新的可能性。圖像展示了將 BlueField-2 DPU 和 Ampere GPU 相結合的 NVIDIA 新型融合加速器。
在 NVIDIA GTC 大會上,我們推出了兩款新型融合加速器。A100X 在單一模組中融合了 A100 Tensor Core GPU 和 NVIDIA BlueField-2 DPU。A30X 則融合了 A30 Tensor Core GPU 和相同的 BlueField-2 DPU。融合卡具有獨特的能力,除了 BlueField-2 的卸載、隔離和加速網絡功能,進一步拓展到 AI 推理和訓練功能。
兩款加速器都包含一個集成的 PCIe 交換機實現DPU 和 GPU 連接。集成交換機能夠消除對主機資源的爭用,實現線速 GPUDirect RDMA 性能。集成交換機還通過隔離 GPU 和網卡之間移動的數據來提高安全性。
AI 增強型 DPU
融合加速器支持兩種運行模式:
標準模式 – BlueField-2 DPU 和 GPU 分別獨立運行。
BlueField-X模式 – PCI 交換機進行了重新配置,GPU 將專用于 DPU,并且對于主機系統不可見。
在 BlueField-X 模式下,只有 DPU 上運行的操作系統可見到GPU。BlueField-X 模式在業界首創了一種新型加速器類型:GPU 加速的 DPU。圖像展示了在 BlueField-X 模式下,主機服務器中的 CPU 連接到融合加速器。融合加速器的 PCIe 交換機連接到 CPU 和 DPU。而 GPU 僅通過 PCIe 交換機與 DPU連接。
在 BlueField-X 模式下,GPU 可以對流經 DPU 的數據運行 AI 模型,成為 “bump in the wire”。保障安全同時,無性能損耗。AI 模型無需消耗主機資源,實現完全加速。
BlueField-X 為網絡安全、數據中心管理和 I/O 加速解鎖新穎使用場景。例如,Morpheus 網絡安全框架使用機器學習對以往無法識別的安全威脅進行有效處理。Morpheus 通過 DPU 從數據中心的各個服務器獲取遙測數據,并將其發送到配備 GPU 的服務器進行分析。
有了 BlueField-X,AI 模型可以在每個服務器的融合加速器上直接本地運行。這使 Morpheus 能夠更快地分析更多數據,同時消除代價很高的數據移動,并縮小惡意攻擊面。由 BlueField-X 加速的 Morpheus 使用案例包括惡意軟件檢測、數據泄漏預防和動態防火墻規則創建等。
Morpheus 示例僅僅是 BlueField-X 實現加速的一種使用場景。我們的客戶經常與我們分享一些我們尚未考慮到的新想法。為了對 AI 增強的網絡進行更多創造性的探索,我們現正推出 NVIDIA 融合加速器開發套件。
結合此開發套件,我們為有意構建新一代加速 AI 網絡應用的特定客戶和合作伙伴提供 A30X 加速器的搶先體驗計劃。在邊緣計算或數據中心管理中探索 BlueField-X 的新應用場景。以下例子為您做參考:
透明視頻預處理 – Bump-in-the-wire 視頻預處理(解密、交錯、格式轉換等),以提高 IVA 吞吐量和攝像頭密度。
小基站 RU 解決方案 – RAN 信號處理聚合加速器,以增加商業 gNodeB 服務器上的用戶密度和吞吐量。
計算存儲 – Bump-in-the-wire 存儲加密、索引和哈希,為長期存儲主機數據準備處理卸載昂貴的 CPU 資源。
作弊檢測 – 檢測流式游戲服務中的惡意游戲/作弊
開始使用 NVIDIA 融合加速器開發套件
NVIDIA 融合加速器開發套件包含有結合 CUDA 和 NVIDIA DOCA 的示例應用程序,以及幫助安裝、配置新型融合加速器的文檔。最重要的是,可提供 A30X 及應用支持來換取用戶的寶貴反饋。
要開始使用,只需在 NVIDIA 融合加速器開發套件網頁上完成注冊。獲得批準后,一旦硬件準備好發貨,將由工作人員主動聯系。之后就可以開啟新一代加速應用之旅了。
編輯:jq
-
加速器
+關注
關注
2文章
839瀏覽量
40097 -
gpu
+關注
關注
28文章
5194瀏覽量
135432 -
主機
+關注
關注
0文章
1053瀏覽量
36742 -
數據中心
+關注
關注
18文章
5647瀏覽量
75009 -
DPU
+關注
關注
0文章
414瀏覽量
26964
原文標題:GTC21 | 借助 NVIDIA 融合加速器開發套件加速數據中心 AI
文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
AI端側部署開發(SC171開發套件V2-FAS)
利用NVIDIA Cosmos開放世界基礎模型加速物理AI開發
邊緣計算中的AI加速器類型與應用
Cadence 借助 NVIDIA DGX SuperPOD 模型擴展數字孿生平臺庫,加速 AI 數據中心部署與運營
加速AI未來,睿海光電800G OSFP光模塊重構數據中心互聯標準
Microchip推出Adaptec? SmartRAID 4300 系列加速器 提供安全的可擴展 NVMe? RAID 存儲解決方案
NVIDIA RTX AI加速FLUX.1 Kontext現已開放下載
NVIDIA攜手諾和諾德借助AI加速藥物研發
面向半定制AI基礎架構的NVIDIA NVLink Fusion技術
首創開源架構,天璣AI開發套件讓端側AI模型接入得心應手
是德科技推出AI數據中心構建器
適用于數據中心和AI時代的800G網絡
NVIDIA加速的Apache Spark助力企業節省大量成本
Cadence 利用 NVIDIA Grace Blackwell 加速AI驅動的工程設計和科學應用
Oracle 與 NVIDIA 合作助力企業加速代理式 AI 推理
借助 NVIDIA 融合加速器開發套件加速數據中心 AI
評論