隨著人工智能等技術的快速發(fā)展,在政策和市場的驅(qū)動下,國內(nèi)智算資源池建設呈爆發(fā)式增長,尤其運營商在全國各地布局多級算力資源池體系,需要結合網(wǎng)絡優(yōu)勢充分發(fā)揮智算資源效益,“網(wǎng)效”與“算效”需要提升互促。傳統(tǒng)的廣域網(wǎng)技術與架構在承載智算業(yè)務流量時效率較低,微量丟包就將導致網(wǎng)絡智算流量吞吐能力顯著下降,造成算卡資源閑置浪費。智能IP廣域網(wǎng)以高算效、差異化保障、云邊協(xié)同、智能運維、綠色低碳和內(nèi)生安全,成為IP廣域網(wǎng)新的發(fā)展方向。
中國信通院作為國內(nèi)權威的第三方檢測機構,在智算技術研究與標準制定方面擁有深厚的積淀,基于企業(yè)用算的三大場景,組織制定了國內(nèi)首個智能IP廣域網(wǎng)關鍵技術及設備系統(tǒng)評估體系。測試評估項目重點面向企業(yè)海量數(shù)據(jù)入算、樣本數(shù)據(jù)拉遠訓練、云邊協(xié)同分布式推理三大用算場景,開展相應的行業(yè)評測,構建智能IP廣域網(wǎng)的技術標準體系,推動IP網(wǎng)絡快速向智能、高效、安全的智能IP廣域網(wǎng)演進。
智能IP廣域網(wǎng)關鍵技術及設備系統(tǒng)測試評估主要涵蓋如下場景:
海量樣本入算
本場景驗證設備和網(wǎng)絡的“大象流”識別和動態(tài)負載分擔能力,對不同用戶RDMA業(yè)務流精準流控、流級反壓及多用戶隔離能力進行測試,驗證智算組網(wǎng)專線帶寬可動態(tài)調(diào)整能力,及RDMA承載網(wǎng)絡的有效吞吐率。
存算拉遠訓練
本場景驗證設備和網(wǎng)絡在不同模型和拉遠距離下算效損失率,存算拉遠訓練期間用戶訓練數(shù)據(jù)不落盤,隔離用戶間互不影響。
云邊協(xié)同推理
本場場景驗證云邊協(xié)同拉遠推理,在不同收斂比情況下評估算效劣化率,驗證企業(yè)推理請求及響應原始內(nèi)容在廣域網(wǎng)及智算中心內(nèi)不可獲取,保障企業(yè)數(shù)據(jù)安全。
目前,華為基于新一代AI路由器的智能IP廣域網(wǎng)關鍵設備及系統(tǒng)通過評估測試。測試報告顯示,基于稠密模型LLAMA2-13B、多模態(tài)模型Qwen2.5vl-32B、CV類模型RESNET、MoE類模型DeepSeek大模型,完成了三大場景測試:
海量樣本入算場景,具備“大象流”精準識別能力,可實現(xiàn)RDMA動態(tài)負載分擔,避免擁塞,可靈活配置1G~100G任意專線帶寬,開啟樣本入算高算效功能后,網(wǎng)絡有效吞吐不低于90%。
存算拉遠訓練場景,支持租戶級精準流控,實現(xiàn)網(wǎng)絡擁塞“0”丟包,實測拉遠400KM可以做到算效損失低于1%。存算拉遠訓練測試時將用戶樣本數(shù)據(jù)駐留本地存儲池,通過廣域RDMA拉遠至遠端智算中心內(nèi)存訓練,數(shù)據(jù)不在智算中心磁盤存儲,并且多用戶隔離互不影響。
云邊協(xié)同推理場景,支持關鍵幀識別和加速技術,實測拉遠200KM、收斂比160:1情況下,算效劣化小于3.2%。在云邊協(xié)同過程中,本地訓推一體機部署模型首尾層,遠端智算中心部署模型中間層,Prompt由本地輸入,Token在本地生成,通過智能IP廣域網(wǎng)傳輸模型的中間層矢量化計算數(shù)據(jù),實現(xiàn)了數(shù)據(jù)不出域,模型不上云,分布式訓推全程安全,能夠滿足企業(yè)用算安全訴求。
此次中國信通院對智能IP廣域網(wǎng)關鍵設備和系統(tǒng)的評估,目的是為了驗證基于智算關鍵技術和設備搭建的實際網(wǎng)絡算效吞吐等性能指標,為運營商和業(yè)界廠商提供重要的指標參考依據(jù)。從而滿足政企用戶對網(wǎng)絡提供高吞吐、高效率、廣域無損傳輸?shù)乃憔W(wǎng)一體化服務的迫切要求。加速推動以算力和數(shù)據(jù)為核心的新質(zhì)生產(chǎn)力發(fā)展,賦能千行百業(yè)的數(shù)字化轉(zhuǎn)型升級。
來源:中國信通院技術與標準研究所
-
網(wǎng)絡
+關注
關注
14文章
8264瀏覽量
94696 -
廣域網(wǎng)
+關注
關注
1文章
261瀏覽量
22801 -
算力
+關注
關注
2文章
1528瀏覽量
16740
原文標題:轉(zhuǎn)載 | 中國信通院正式發(fā)布智能IP廣域網(wǎng)關鍵設備及系統(tǒng)能力測試報告
文章出處:【微信號:Huawei_Fixed,微信公眾號:華為數(shù)據(jù)通信】歡迎添加關注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
SD-WAN網(wǎng)關是什么、有什么功能和應用場景
中國信通院發(fā)布2025年數(shù)字孿生十大關鍵詞
華為獲得中國信通院最高評級證書
華為星河AI廣域網(wǎng)解決方案助力教育網(wǎng)絡智能化發(fā)展
中國信通院發(fā)布2025人工智能產(chǎn)業(yè)十大關鍵詞
中國中車通過中國信通院可信AI人工智能數(shù)據(jù)集質(zhì)量四級評估
中國信通院發(fā)布“2025智能體十大關鍵詞”
中國信通院推出智能IP廣域網(wǎng)關鍵技術及設備系統(tǒng)評估體系
評論