我們非常自豪地宣布，AI 基礎設施性能達成了一項重大里程碑：通過使用 NVIDIA SCADA 編程模型、美光 9650 PCIe 6.0 SSD、Broadcom PEX90000 PCIe 6.0 交換機及 H3 平臺 Falcon 6048 PCIe 6.0 服務器，我們實現了高達 2.3 億 IOPS 的性能。

規?；铀贁祿L問(SCADA) 是一種安全的編程模型和技術堆棧，最早在BaM 系統架構中的 GPU 主動按需高吞吐量存儲訪問技術中采用。這是存儲生態系統中的一項重大舉措，由 NVIDIA、美光等公司攜手開發，旨在定義并實現一種新的基礎設施，以訪問遠超本地內存限制的海量數據集。SCADA 直接使用 NVMe 設備來執行加載/存儲操作，防止出現內存不足錯誤。此外，通過將存儲控制轉移到受信任的 DPU 上，SCADA 可持續保持高性能，并保護共享數據免受不安全計算節點的影響。

這一成果展示了 GPU 驅動的存儲編排技術、下一代互連設備及業界速度頂尖的 SSD 結合時，所迸發出的強大性能。

美光 9650：全球速度頂尖的 SSD

美光 9650 SSD的重要意義不僅在于超高的原生性能，更在于通過速度、能效及互操作性之間的平衡，賦能下一代 AI 和高性能計算工作負載。作為全球首款 PCIe 6.0 SSD（美光在 2025 年 FMS 大會上率先宣布推出支持 AI 革命的 SSD 組合），美光 9650 實現了創紀錄的吞吐量和 IOPS，同時支持廣泛的生態系統集成。過去兩年，美光與 PCIe 6.0 領域的合作伙伴密切合作，進行了大量互操作性測試，為今年的廣泛采用奠定了基礎。美光 9650 采用 PCIe 6.0 架構，并針對小數據塊操作進行了優化，專為 NVIDIA SCADA 等 GPU 驅動環境而構建。

NVIDIA SCADA 可提升吞吐量以大規模加速 AI 工作負載

SCADA 代表了 NVIDIA 對于 GPU 驅動存儲系統操作的構想。通過在 GPU 和存儲設備之間建立直接連接，SCADA 可繞過傳統的 CPU 堵塞點，加速數據在 GPU 和存儲設備之間的傳輸。SCADA 是 NVIDIA 多年研究和工程開發的成果，旨在使 GPU 能夠直接編排 NVMe 事務，為小塊數據操作提供前所未有的吞吐量和 IOPS。此類操作對于圖神經網絡（用于藥物發現、社交網絡、知識圖譜等）等 AI 工作負載的大規模加速至關重要。

Broadcom 和 H3：業界前沿服務器平臺

NVIDIA GPU 依靠 H3 Falcon 6048 PCIe 6.0 服務器實現對存儲系統的編排。服務器集成了多臺 Broadcom 的 PEX90000 PCIe 6.0 交換機。這些 PCIe 6.0 交換機可提供超低延遲、高帶寬，以及足夠的端口密度，實現了強大的可擴展性，能夠滿足 GPU 與 NVMe 設備之間的無縫互聯需求。

這些 PCIe 6.0 交換機部署在基于 H3 平臺的 Falcon 6048 服務器中，從而將加速器和存儲設備整合到一個針對 PCIe 6.0 優化的單一架構中。該系統支持安裝 44 塊 E1.S 規格美光 9650 SSD，每塊 SSD 通過一個 PCIe 6.0 x4 接口連接到系統。H3 平臺支持高級遙測和診斷功能，簡化了大規模 AI 架構的管理。此外，該平臺還與各種 CPU、GPU、SSD（特別是美光 9650）、網卡和重定時器進行了大量互操作性測試，確保這些硬件能夠可靠無憂地部署到平臺上。

現場演示：2.3 億 IOPS是如何實現的

我們在 SC25 大會上的演示，不僅是相關硬件性能的證明，更是系統架構發展中的一個里程碑。我們使用了一臺基于 H3 平臺打造的 Falcon 6048 服務器，配置如下：

44 塊美光 9650 PCIe 6.0 SSD (E1.S，7.68TB)

3 塊 NVIDIA H100 PCIe 5.0 GPU（搭載 NVL 96GB HBM3）

1 塊英特爾 PCIe 5.0 CPU

3 臺 Broadcom PEX90000 PCIe 6.0 系列交換機（每臺 144 個通道）

通過運行 SOL 基準測試中的 SCADA 工作負載，我們實現了高達 2.3 億 IOPS 的 512B 隨機讀取性能。該基準測試旨在衡量從一組 SSD 中訪問數據時，GPU 線程所能實現的隨機讀取性能 (IOPS)。測試數據表明，當從 1 塊 SSD 逐步增加到 44 塊 SSD 時，該系統具備線性擴展能力。測試證明，GPU 驅動的 I/O 與 PCIe 6.0 基礎設施相結合，可實現巨大的價值。

隨后我們調整了 SOL 基準測試，同時運行三個實例，隨機訪問 44 塊 SSD，進行 256 次迭代（每個隊列對的 I/O * 512），使用 8 個隊列對，以獲得最佳性能。

為何新架構對 AI 和高性能計算至關重要？

隨著 AI 模型日益復雜，推理過程使用的數據量持續增加，存儲可能會成為整個系統的瓶頸。SCADA 顛覆了傳統模式，讓 GPU 直接通過存儲設備驅動 I/O，從而降低了延遲，并最大限度提高了帶寬利用率。在 PCIe 6.0 和高性能 SSD 的支持下，這種新架構能夠為向量數據庫、圖神經網絡和大規模推理管線等工作負載提供實時訪問海量數據的能力。

本文作者

Ryan Meredith數據中心工作負載工程總監