引言

隨著AI大模型訓練和推理需求的爆發式增長，智算中心網絡的高效性與穩定性成為決定AI產業發展的核心要素。信而泰憑借自主研發的CCL（集合通信庫）評估工具與 DarYu-X系列測試儀 ，為智算中心RoCE網絡提供精準評估方案，助力企業突破算力瓶頸，釋放AI澎湃動力！

什么是智算中心

智算中心（AIDC，Artificial Intelligence Data Center）是專門為人工智能應用提供算力支持的高性能數據中心，是人工智能技術與云計算、大數據、物聯網等現代信息技術深度融合的產物。它基于最新的人工智能理論，采用前沿的計算架構，為AI模型的訓練、推理和應用提供強大的算力服務、數據服務和算法服務。

• 智算中心可以分為狹義和廣義兩種定義：

狹義定義： 智算中心是“機房+網絡+GPU服務器+算力調度平臺”的融合基礎設施，是傳統數據中心的增值性延伸。

廣義定義： 智算中心是“算力+數據+算法”的融合服務，是推動AI產業化和產業AI化的重要引擎，也是傳統云數據中心的智能化升級。

• 智算中心的核心功能包括：

算力服務： 提供高性能的計算能力，支持GPU、FPGA、ASIC等異構計算芯片，滿足AI模型訓練和推理的高并發需求。

數據服務： 提供數據治理、存儲和優化服務，支持大規模數據的高效處理。
算法服務： 提供預訓練大模型、行業算法庫等，支持機器學習、深度學習等AI應用。

資源調度： 通過智能調度平臺，實現算力資源的靈活分配和高效利用。

為什么必須評估智算中心網絡

對智算中心的RoCE網絡進行評估測試，是為了確保其能夠高效、穩定地支持大規模AI訓練任務。具體原因包括：

驗證性能： 確保網絡具備低延遲、高吞吐量，滿足智算中心對高性能的需求。

優化可靠性： 通過測試發現潛在問題，提升網絡的穩定性和容錯能力。

成本效益： 評估RoCE網絡的性價比，選擇最優方案。

支持分布式訓練： 驗證網絡在大規模分布式AI任務中的表現，優化數據傳輸效率。

指導運維： 提前發現問題，優化運維策略，減少故障風險。

智算心網絡評估工具-CCL

使用集合通信流量來評估智算中心網絡的RoCE（RDMA over Converged Ethernet）性能，主要有以下幾個原因：

? 集合通信是智算中心的關鍵特征： 智算中心的業務（如AI大模型訓練）依賴于高度同步的集合通信操作（如AllReduce、Broadcast），這些操作要求低延遲和高帶寬的網絡支持。

? 集合通信對網絡性能要求極高： 集合通信操作（如AllReduce）需要高吞吐量和低延遲，RoCE通過RDMA機制能夠顯著降低通信延遲并提高帶寬利用率。

? RoCE性能直接影響智算中心效率： RoCE網絡的性能直接影響分布式訓練任務的通信效率，進而影響整個智算中心的加速比和效率。

? 集合通信流量能夠全面評估RoCE性能： 集合通信涵蓋了多種通信模式（如點對點、廣播、多點通信），能夠全面測試RoCE網絡的帶寬、延遲、擁塞控制和負載均衡能力。

? RoCE在智算中心的廣泛應用： RoCE技術因其開放性、互操作性和成本效益，在智算中心中廣泛應用。評估其性能有助于優化配置，提升整體性能。

如何使用儀表CCL評估智算網絡

使用信而泰Renix軟件平臺提供的CCL Traffic Emulation向導，測試配置實現通過向導配置，生成復雜的訓練流量。針對不同AI訓練數據包，評估在非擁塞網絡、擁塞網絡各項指標。對比網絡正常和網絡故障情況下各項組網指標，比如任務時間、訓練時間、算法帶寬、總線帶寬、收發報文數量、時延、抖動、亂序等關鍵數據。

通過使用儀器儀表模擬GPU通信，可以有效降低測試成本，同時簡化AI測試的復雜性和維護難度。這種方法使AI測試從傳統的搭建真實服務器和使用價格高昂的GPU來測試RoCE交換機，轉變為利用通用儀表儀器進行測試。這一轉變不僅大幅節省了測試成本，還統一了驗證規范，為國產AI的崛起提供了有力支持。

以下以8卡400G GPU模型訓練為例，對比Ring Allreduce模型在非擁塞和擁塞網絡環境下不同數據量（Data Size）的參數表現。通過實際數據對比，可以直觀地體現CCL（Collective Communication Library，集合通信庫）在評估網絡性能方面的重要意義。

? CCL指標

如下圖所示，使用Ring Allreduce在不同訓練任務在非擁塞網絡中體現

如下圖所示，使用Ring Allreduce不同訓練任務在擁塞網絡（PFC）中體現

如下圖所示，使用Ring Allreduce不同訓練任務在擁塞網絡（ECN+DCQCN）中體現

? Latency and Jitter by Data Size指標

如下圖所示，使用Ring Allreduce在不同訓練任務在非擁塞網絡中體現

如下圖所示，使用Ring Allreduce不同訓練任務在擁塞網絡（PFC）中體現

如下圖所示，使用Ring Allreduce不同訓練任務在擁塞網絡（ECN+DCQCN）中體現

? 對比不同場景下訓練時間（無擁塞/擁塞+PFC/擁塞+ECN/DCQCN）

? 對比不同場景下算法帶寬（無擁塞/擁塞+PFC/擁塞+ECN/DCQCN）

? 對比不同場景下總線帶寬（無擁塞/擁塞+PFC/擁塞+ECN/DCQCN）

通過信而泰Renix軟件平臺的CCL Traffic Emulation功能，能夠精確評估RoCE網絡的關鍵指標，為AI網絡的評估提供精細化數據支持。對比實驗的結果可全面評估RoCE交換機的性能。該方案通過模擬真實AI工作負載，能夠在復雜流量和大規模組網場景下，全面測試RoCE交換機的性能表現，并精準識別組網瓶頸，提升評估的精確性和實用性。

高密度智算網絡測試解決方案
信而泰推出的X2-100GFP28、X5-400G高密度智算非擁塞網絡（ROCEv2）測試儀是一款專為高端路由器、交換機以及數據中心交換機設計的高密度測試平臺。該測試平臺充分滿足運營商、網絡設備制造商和企業用戶在高速以太網和智能計算網絡測試業務中對增長和未來發展的需求。其高密度設計使得它在有限的空間內提供強大的測試能力，是應對未來網絡挑戰的理想選擇。

客戶價值

超高密度： 單機支持400G/200G/100G多速率，12端口靈活配置；

全協議兼容： 支持RoCEv2、標準以太網，適配異構網絡環境；

智能化測試： 一鍵生成復雜流量模型，3分鐘完成網絡健康度診斷。

X2-100G RoCE測試板卡

高密度400G測試儀一體機

審核編輯 黃宇