AI時代，網絡正以驚人的速度發生變革，數據密度劇增，流量流向愈發多元，微小的網絡效率波動，都可能在分布式負載下被放大，引發嚴重的系統性故障。對網絡與通信工程師而言，AI正重塑現代網絡的構建、升級與維護，提前洞察并應對以下7個新挑戰，才能從容化解危機。

01東西向（內部數據流）帶寬的“洶涌浪潮”

如今，流量不再局限于南北向，在GPU驅動、模型并行計算時代，東西向流量如洶涌浪潮。以往機柜間數據流動緩慢，如今每個訓練周期啟動，數據便如開閘洪水般涌入核心層。工作負載模式的改變使得精心設計的網絡架構面臨挑戰，內部流量突然翻倍會直接造成延遲成本上升和利用率降低，影響投資回報率。工程師需關注核心層間的“無聲飽和”，對突發負載建模，并將光模塊交付周期納入設計考量，避免算力閑置。

*注釋：“東西向”代表數據中心內部服務器間的數據流；“南北向”代表用戶與數據中心間的跨網數據流。

02尾部延遲瓶頸

AI工作負載揭示，異常的尾部延遲才是關鍵瓶頸。在多節點訓練中，一個延遲的數據包就能讓整個同步周期停滯，即便平均延遲表現良好，模型也會因等待而空轉。這是因為傳統監控的盲區，如微突發、不均勻的隊列調度等，放大了尾部延遲。工程師應深入關注P99（第99百分位延遲）等更嚴格的指標，將隊列深度、緩沖區利用率與任務完成時間關聯，找出隱藏的低效環節。

03可觀測性成為失控的“噪聲”

隨著AI集群擴張，遙測數據變得繁雜混亂。每增加一層可見性，就多一筆“集成債”。根據Edge Delta 2023年報告《可觀察性圖表》，84%的組織表示由于工具泛濫、數據量激增和成本上升，面臨可觀測性難題。工程師需將監控工作聚焦并整合到那些真正影響業務投入產出的核心指標上，如延遲變化、緩沖區占用、與計算延遲掛鉤的丟包率，一次性部署并定期驗證，實現監控自動化，跟上網絡變化。

04供應鏈與閑置成本

AI大模型訓練對GPU、光模塊等硬件的交付節奏要求極高，供應鏈的微小延遲，都會導致已到貨的GPU集群完全閑置，造成巨額損失。供應鏈問題導致光模塊、交換機分批到貨，GPU卻只能閑置等待。許多大規模GPU集群利用率不足50%，網絡側能力與算力需求失配使算力閑置，投資回報率大打折扣。硬件交付延遲每天都在累積損失，交付周期管理成為核心設計變量。工程師需像給電力建模一樣，為供應鏈波動建模，計算“GPU閑置成本”，在架構評審時強調其重要性。

05升級窗口沒有“下班時間”

AI集群全天候運行，租戶期望零中斷服務，維護窗口不復存在。網絡的復雜性和高密度，讓每次升級都充滿風險，一次時機不當的固件推送，就可能中斷多個正在運行的訓練任務，甚至導致任務失敗重跑。網絡穩定性成為關鍵績效指標，工程師要像編排工作負載一樣規劃升級，采用藍綠部署、分階段測試、自動化回滾等策略，重視平均回滾時間。

06隔離必須“看得見”，不能“想當然”

多租戶、多負載環境下，傳統VLAN、VRF、ACL配置已無法滿足隔離需求。集群跨云延伸，AI訓練和生產推理混跑，隔離必須是可證明而安全的。然而，35%的團隊對云和互聯網路徑的完整情況缺乏了解，存在潛在串擾風險。工程師要實現“可驗證的隔離”，利用合成探針、策略即代碼證明分段在負載下的有效性，串聯本地和云遙測數據，確保可見性。

07合規性“內建”而非“后裝”

數據駐留、出口管制等法規日益嚴格，合規不再是最后填表的檢查，而是要融入產品設計。新部署需前置完成認證資質、設施合規要求與數據處理規則的清單梳理，少一個認證或加密措施都可能導致項目延期或返工。工程師要把合規當作設計約束，維護實時文檔和自動化檢查，將合規數據綁定在物料清單上。

為應對AI時代網絡挑戰，提供硬核支撐

AI時代，網絡工程師既需前瞻思維，更需可落地的技術支撐與全棧解決方案，安富利恰能擔此重任。我們將電源管理、散熱優化與供應鏈智能深度融入方案的初始設計，為工程師提供全流程專業技術賦能，助力打造能夠主動預判變化，而非僅被動應對風險的下一代網絡系統。

關于安富利

安富利是全球領先的技術分銷商和解決方案提供商，在過去一個多世紀里一直秉持初心，致力于滿足客戶不斷變化的需求。通過遍布全球的專業化和區域化業務覆蓋，安富利可在產品生命周期的每個階段為客戶和供應商提供支持。安富利能夠幫助各種類型的公司適應不斷變化的市場環境，在產品開發過程中加快設計和供應速度。安富利在整個技術供應鏈中處于中心位置，這種獨特的地位和視角讓其成為了值得信賴的合作伙伴，能夠幫助客戶解決復雜的設計和供應鏈難題，從而更快地實現營收。