隨著大模型的興起，為了應對新的AI應用，AI或算力數據中心建設如火如荼。

無論是作為聊天機器人，推薦系統還是在各個領域中實現流程自動化，比如無人駕駛、人臉識別；AI技術都有望提升并加速眾多企業和公共設施的運營，甚至改變人們的生活方式。

然而，AI網絡或算力網絡作為一個概念，常常讓人感到困惑且被誤解，AI和算力需要網絡么？

在本文中，我們將探討關于AI網絡的五個基本要點，以及隨著AI的發展，網絡所面臨的獨特挑戰。

GPU是AI的核心

簡單來說，AI的核心是圖形處理單元（GPU）或神經處理單元（NPU）。

過去，我們通常認為中央處理單元（CPU）是計算機的核心。但GPU的優勢在于，它在執行數學計算特別是矩陣計算方面非常出色，從某種角度來說，與人腦神經元更接近。

CPU時代的數據中心網絡處理的大多是供人閱讀的文字或多媒體，典型的就是網站的瀏覽、文件傳輸以及觀看視頻，數據中心往往能夠同時支持數億人的同時在線及高速的視頻碼流傳輸。

而在構建大語言模型或深度學習模型時，需要讓GPU進行“訓練”，這涉及到解決可能包含數十億參數的矩陣和梯度運算。GPU的計算非常的快，整個“訓練”過程異常嚴苛，不允許有任何的錯誤發生，一旦發生錯誤或延遲，整個“訓練”的周期就會被拉長。這樣的運算量，以及對無損和低延時的要求，對于傳統的數據中心而言，突然就變得捉襟見肘了。

AI訓練任務由多GPU協同完成

大語言模型在訓練的參數和模型復雜度上有非常明顯的提升，完成這些計算必須讓多達上千個GPU共同處理訓練任務，即便如此，訓練或微調大模型也可能需要數周甚至數月的時間。

一般的多GPU互聯的架構是將一組GPU服務器放置在機架中，并通過機架頂部的交換機相互連接。機架與機架通過CLOS網絡結構將它們全部連接起來。隨著解決問題復雜性的提升，對GPU的需求也會增加，有些情況下單個數據中心的電力不足以支持的時候，甚至需要跨數據中心連接通信來完成更大型的訓練任務。

AI集群是一臺超級計算機

在構建AI集群時，不僅僅要將GPU相互連接，更需要把它作為一個系統，解決很多錯誤和優化的問題。正因為AI集群的規模不斷的上升，其中任何單點錯誤會導致整體訓練任務的失敗或效率低下，整個系統的組成部件比如模塊、線纜、交換機、網卡、服務器、存儲甚至電源，冷卻系統等，都會影響整個系統的執行和維護。AI集群已經慢慢由一個組網變成為一臺超級計算機，越來越多的工作將會圍繞在部件之間的協同而不僅是部件內部的單點優化展開。

網絡成為了訓練效率的關鍵瓶頸

在去年秋天的開放計算項目（OCP）全球峰會上，Marvell Technology的Loi Nguyen指出，網絡成為了AI部署的新瓶頸。GPU在解決計算問題或處理訓練負載方面非常有效。然而，進行并行計算的GPU在完成本身處理的信息之外需要獲取其他GPU處理完成的信息，彼此之間需要相互通信和同步。

如果一個GPU無法獲取所需信息，或者同步需要較長時間，其他所有GPU都必須等待，直到協作任務完成。在技術層面上，由網絡擁塞導致的數據包延遲或丟失可能會引發數據包重傳，顯著增加任務完成時間（JCT）。

這意味著價值數百萬甚至數千萬美元的GPU長時間處于閑置狀態，從而導致AI產品的上市時間延遲并影響公司的財務成果。

測試對于AI網絡至關重要

為了確保AI集群的高效運行，需要網絡對GPU協同作業可能存在的擁塞和錯誤有提前的感知以及良好的應對。

這要求對網絡處理AI負載的性能進行詳盡的測試和基準評估。但這并非易事，因為GPU協同作業的負載區別于傳統網絡的流量負載，微突發、大象流、低熵是比較典型的特征。

因此，在測試AI網絡時，我們會面臨諸多挑戰：

? GPU短缺，無法復刻生產網絡環境或無法長時間復現問題。

?在生產系統上進行測試可能會降低系統的處理能力。

?系統內的部件不能提供足夠的日志及調試能力，無法準確定位問題。

?此外，獲取GPU之間集合通信更細節的信息，比如 Queue-Pair 的信息是一個挑戰。

為了應對這些挑戰，可以首先在實驗室環境中對建議配置的一個子集或小的組網進行測試，對關鍵參數進行基準測試，比如任務完成時間（JCT）、AI集群可達到的帶寬，以及這些參數與網絡利用率和交換機緩存消耗的比較。

這種基準測試有助于找到GPU/工作負載與網絡設計/參數設置之間的平衡。當計算架構師和網絡工程師對結果滿意時，他們可以將這些設置應用于生產環境，并測量新的結果。

結論

為了充分利用AI算力，必須對AI網絡的設備和基礎設施進行優化。

企業和學術界正在提出更多好的架構和算法來優化AI系統的各個部件及部件間協同，以應對未來更多AI應用給大型網絡帶來的挑戰。

測試對AI系統非常關鍵，只有通過確定可重復的測試，行業才能實現從探索性實驗到可交付的迭代，這會是優化AI這臺超級計算機的基礎。

關于是德科技

是德科技（NYSE：KEYS）啟迪并賦能創新者，助力他們將改變世界的技術帶入生活。作為一家標準普爾 500 指數公司，我們提供先進的設計、仿真和測試解決方案，旨在幫助工程師在整個產品生命周期中更快地完成開發和部署，同時控制好風險。我們的客戶遍及全球通信、工業自動化、航空航天與國防、汽車、半導體和通用電子等市場。我們與客戶攜手，加速創新，創造一個安全互聯的世界。