AI 云服務正面臨著前所未有的挑戰。

隨著 AI 技術的飛速發展，企業對云網絡的高性能、低延遲和高可擴展性提出了更高的要求。AI 應用通常需要兼顧訓練與推理，在處理海量數據和復雜的計算任務的同時，應對不可預測的突發和局部擁塞，這不僅對計算資源提出了挑戰，也對網絡基礎設施的性能和效率提出了嚴峻考驗。

在剛結束的NVIDIA GTC上，NVIDIA 和 Crusoe Cloud 聯合舉辦了一場技術研討會，探討如何利用先進的網絡技術實現可持續的 AI 云服務。

在這次研討會上，Keysight CyPerf 作為性能測試的黃金標準，成為了驗證 NVIDIA OVS-DOCA 網絡加速解決方案性能的關鍵利器，其精準的測試數據為技術突破提供了堅實依據。

什么是AI 云服務？

AI 云服務是指通過云計算平臺提供人工智能（AI）相關的計算資源和服務。這些服務需要處理大量的數據和復雜的計算任務，因此對網絡的性能、安全性和可持續性提出了極高的要求。

圖1: Crusoe的AI云服務架構

什么是 OVS-DOCA？

Open Virtual Switch (OVS) 是一種開源的虛擬交換機，廣泛用于云計算環境中。NVIDIA DOCA 是一個為數據中心和 AI 應用設計的加速軟件框架，能夠充分利用 NVIDIA 的硬件資源，如 ConnectX 網卡（NIC）和 BlueField 數據處理器（DPU）。

OVS-DOCA是 NVIDIA 推出的一種高性能、用戶空間虛擬交換機解決方案，旨在為 AI 云網絡提供卓越的性能和可擴展性。OVS-DOCA 基于 Open Virtual Switch (OVS) 和 NVIDIA DOCA 框架，通過硬件加速技術顯著提升網絡性能。

圖2: OVS-DOCA 加速網絡框架

Crusoe Cloud 使用Keysight CyPerf 驗證 NVIDIA OVS-DOCA

Keysight CyPerf 是一種高性能的網絡測試工具，能夠模擬真實世界中的網絡流量，用于測試網絡的吞吐量、延遲和連接速率等關鍵性能指標。它廣泛應用于云計算、數據中心和網絡設備的性能測試中。

在會議中，Crusoe Cloud 與 NVIDIA 合作，利用 Keysight CyPerf 對 NVIDIA 的 OVS-DOCA 網絡加速解決方案進行了全面測試。CyPerf 通過模擬真實世界中的高負載網絡流量，驗證了 OVS-DOCA 在吞吐量、連接速率和延遲方面的卓越性能。

圖3: Keysight CyPerf 驗證OVS-DOCA 網絡測試流程

高吞吐量測試：

CyPerf 模擬了 400 Gbps 雙向流量，驗證了 OVS-DOCA 在高負載下的線速性能。

高連接速率測試：

在 25K 和 50K CPS 的條件下，CyPerf 測試了網絡的連接建立和關閉性能，結果顯示 OVS-DOCA 模式顯著優于傳統 OVS-Kernel 模式。

低延遲測試：

在高負載條件下，CyPerf 測量了網絡的延遲，證明 OVS-DOCA 模式能夠提供更低且更穩定的延遲表現。

資源利用測試：

CyPerf 監控了服務器的 CPU 利用率，驗證了 OVS-DOCA 模式在高連接速率下顯著降低了 CPU 使用率，提高了系統的整體效率。

結語

在 AI 云服務的快速發展中，網絡性能和效率至關重要。KeySight CyPerf 作為領先的性能測試工具，為驗證先進的網絡加速解決方案提供了強大的支持。通過在 Crusoe Cloud 和 NVIDIA 的實驗中表現出色，CyPerf 證明了其在驗證 AI 云網絡方案中的獨特優勢。選擇 CyPerf，讓您的網絡性能測試更加精準、高效和可靠。

關于是德科技

是德科技（NYSE：KEYS）啟迪并賦能創新者，助力他們將改變世界的技術帶入生活。作為一家標準普爾 500 指數公司，我們提供先進的設計、仿真和測試解決方案，旨在幫助工程師在整個產品生命周期中更快地完成開發和部署，同時控制好風險。我們的客戶遍及全球通信、工業自動化、航空航天與國防、汽車、半導體和通用電子等市場。我們與客戶攜手，加速創新，創造一個安全互聯的世界。