以“發(fā)展新質(zhì)生產(chǎn)力，計(jì)算引領(lǐng)未來(lái)”為主題的第二十一屆中國(guó)計(jì)算機(jī)大會(huì)（CNCC2024）在橫店圓明新園盛大開(kāi)幕，逾萬(wàn)名計(jì)算機(jī)行業(yè)翹楚參會(huì)。本屆大會(huì)邀請(qǐng)到了17位國(guó)內(nèi)院士，800余位國(guó)內(nèi)外頂尖學(xué)者、企業(yè)技術(shù)精英，帶來(lái)特邀報(bào)告、大會(huì)論壇、138場(chǎng)專(zhuān)題論壇等活動(dòng)。10月25日下午，作為2024 CNCC技術(shù)論壇的重要組成部分，中科馭數(shù)成功舉辦第六屆DPU技術(shù)論壇，本次論壇聚焦“DPU在智算網(wǎng)絡(luò)、云原生網(wǎng)絡(luò)等場(chǎng)景的技術(shù)趨勢(shì)和應(yīng)用實(shí)踐”，匯聚了眾多行業(yè)內(nèi)的頂級(jí)專(zhuān)家與學(xué)者，共同探討DPU技術(shù)的最新進(jìn)展及其在高速網(wǎng)絡(luò)、高速存儲(chǔ)、人工智能、云計(jì)算等數(shù)據(jù)計(jì)算密集型場(chǎng)景的應(yīng)用潛力。

論壇主席、中國(guó)科學(xué)院計(jì)算技術(shù)研究所研究員李曉維在開(kāi)場(chǎng)致辭中表示，隨著云計(jì)算、人工智能等領(lǐng)域的快速發(fā)展，對(duì)于高效數(shù)據(jù)處理的需求日益增長(zhǎng)，而DPU作為新一代的數(shù)據(jù)處理單元，正逐漸成為解決這些挑戰(zhàn)的關(guān)鍵技術(shù)之一。DPU能夠顯著提升數(shù)據(jù)處理速度，在算力、存力、運(yùn)力等多個(gè)方面同時(shí)扮演著非常重要的角色，其在高性能云數(shù)據(jù)中心中的應(yīng)用落地與推廣，對(duì)于數(shù)據(jù)中心乃至數(shù)字經(jīng)濟(jì)的發(fā)展至關(guān)重要。

▲論壇主席李曉維開(kāi)場(chǎng)致詞

中國(guó)電子云云產(chǎn)品線研發(fā)副總裁劉年超發(fā)表了《SmartNIC/DPU在AI云原生環(huán)境中應(yīng)用的實(shí)踐和思考》的主題演講，分享了SmartNIC/DPU發(fā)展背景及歷程、電子云SmartNIC/DPU研究和實(shí)踐、SmartNIC/DPU現(xiàn)狀和未來(lái)的思考。他指出，SmartNIC、DPU、IPU抑或是CIPU，雖然在命名方式方面缺乏統(tǒng)一的標(biāo)準(zhǔn)，其本質(zhì)是以CPU為中心的體系架構(gòu)向以數(shù)據(jù)為中心的體系架構(gòu)轉(zhuǎn)變的大勢(shì)所趨。新一代 DPU/IPU 設(shè)備的共同特點(diǎn)是它們采用易于編程的多核 CPU、先進(jìn)的網(wǎng)絡(luò)接口以及一組強(qiáng)大的網(wǎng)絡(luò)、存儲(chǔ)和安全加速引擎，可以進(jìn)行編程以執(zhí)行多個(gè)軟件定義的硬件加速功能。

中國(guó)電子云目前也在網(wǎng)絡(luò)架構(gòu)和軟硬件方面積極創(chuàng)新嘗試，自研基于云原生的雨燕網(wǎng)絡(luò)架構(gòu)，結(jié)合國(guó)產(chǎn)自主可控DPU方案，實(shí)現(xiàn)裸金屬、虛擬機(jī)、容器統(tǒng)共享網(wǎng)絡(luò)和存儲(chǔ)資源池，提升虛擬機(jī)網(wǎng)絡(luò)包傳輸率達(dá)到200萬(wàn)PPS，提升集群CPU利用率至70%以上，達(dá)到了良好降本增效目標(biāo)。目前，中科馭數(shù)FLEXFLOW-2200T、CONFLUX-2200E以及CONFLUX-2200P產(chǎn)品已與中國(guó)電子云的CClinux操作系統(tǒng)及基于云原生分布式云平臺(tái)完成深度適配。

▲中國(guó)電子云云產(chǎn)品線研發(fā)副總裁劉年超發(fā)表演講

中科馭數(shù)高級(jí)副總裁張宇在《基于DPU的高性能云底座》演講中談及，云是算力供給的最普遍形式。當(dāng)下高性能云計(jì)算基礎(chǔ)設(shè)施建設(shè)的主要挑戰(zhàn)包括規(guī)模化落地、異構(gòu)算力融合、資源池化。DPU作為支撐云基礎(chǔ)設(shè)施的核心要素，其價(jià)值在于串聯(lián)網(wǎng)絡(luò)、存儲(chǔ)、安全、虛擬化、裸金屬和容器等業(yè)務(wù)系統(tǒng)。

中科馭數(shù)基于IaaS on DPU (IoD) 技術(shù)，打造了一套統(tǒng)一管理計(jì)算和裸金屬節(jié)點(diǎn)的解決方案，實(shí)現(xiàn)了99%的服務(wù)器資源直接服務(wù)于客戶(hù)業(yè)務(wù)，單機(jī)吞吐量提升4倍，存儲(chǔ)IOPS性能提升1.5倍。特別是在券商低時(shí)延服務(wù)中，通過(guò)DPU卸載代理流量和用戶(hù)態(tài)協(xié)議棧，將業(yè)務(wù)訪問(wèn)時(shí)延降至130微秒，降低70%，并減少服務(wù)器CPU消耗達(dá)20%。此外，中科馭數(shù)的解決方案還實(shí)現(xiàn)了公有云裸金屬服務(wù)的分鐘級(jí)交付，無(wú)需PXE或操作系統(tǒng)安裝，顯著提升了配置的簡(jiǎn)易性和靈活性。

▲中科馭數(shù)高級(jí)副總裁張宇發(fā)表演講

青云科技智算解決方案總監(jiān)傅帥在《借助DPU實(shí)現(xiàn)算力的靈活調(diào)度與管理》演講中指出，算力基礎(chǔ)設(shè)施是AI發(fā)展的基石，青云科技在智算中心建設(shè)中，利用DPU優(yōu)化大型異構(gòu)算力中心的運(yùn)營(yíng)效率，打通算力形態(tài)、網(wǎng)絡(luò)安全、用戶(hù)管理、計(jì)量計(jì)費(fèi)等關(guān)鍵環(huán)節(jié)，為智算中心的高效運(yùn)行提供有力支持。最新升級(jí)的青云AI智算產(chǎn)品和服務(wù)，能夠靈活交付私有云、邊緣云、分布式云及算力云服務(wù)，增強(qiáng)國(guó)產(chǎn)計(jì)算支持、GPU切分、裸金屬及DPU等能力。特別是通過(guò)DPU在裸金屬服務(wù)中的應(yīng)用，青云科技實(shí)現(xiàn)了容器調(diào)度、節(jié)點(diǎn)管理、監(jiān)控服務(wù)等功能的優(yōu)化，顯著提升了裸金屬性能和整體系統(tǒng)的可靠性。

▲青云科技智算解決方案總監(jiān)傅帥發(fā)表演講

紫金山實(shí)驗(yàn)室研究員時(shí)定兵在《可編程網(wǎng)絡(luò)探索與實(shí)踐》演講中指出，面對(duì)AI大模型時(shí)代的挑戰(zhàn)，構(gòu)建高性能算力底座需要計(jì)算、網(wǎng)絡(luò)、存儲(chǔ)和系統(tǒng)的協(xié)同工作。開(kāi)放網(wǎng)絡(luò)設(shè)備將是未來(lái)網(wǎng)絡(luò)的核心組成部分，對(duì)網(wǎng)絡(luò)相關(guān)功能與流量的控制具有重要意義。

紫金山實(shí)驗(yàn)室自研的白盒交換機(jī)在智算中心、算間網(wǎng)絡(luò)和算網(wǎng)協(xié)同中展現(xiàn)了重要的應(yīng)用價(jià)值，有效支持了多種復(fù)雜場(chǎng)景的需求。在智算中心三網(wǎng)分離方案中，白盒交換機(jī)支持超寬128*400G帶寬，實(shí)現(xiàn)無(wú)損網(wǎng)絡(luò)技術(shù)（PFC/ECN/DCQCN），并通過(guò)集中流量調(diào)度（TELB）和多級(jí)負(fù)載分擔(dān)技術(shù)，提升鏈路帶寬利用率和流量均衡，確保大規(guī)模超寬無(wú)損智算中心網(wǎng)絡(luò)的高效運(yùn)行。在算間網(wǎng)絡(luò)中，通過(guò)SRv6協(xié)議承載、FlexE、DetNet構(gòu)建“子切片”，實(shí)現(xiàn)數(shù)據(jù)中心間確定性承載網(wǎng)絡(luò)，提供業(yè)務(wù)級(jí)差分服務(wù)和細(xì)粒度的SLA保障。在算網(wǎng)協(xié)同方案中，白盒交換機(jī)作為算力網(wǎng)關(guān)的核心設(shè)備，具備算網(wǎng)感知、算力路由和算網(wǎng)傳輸保障能力，實(shí)現(xiàn)算網(wǎng)流量的最佳調(diào)度與傳輸，支持基于SRv6、FlexE的確定性網(wǎng)絡(luò)算力數(shù)據(jù)傳輸。

▲紫金山實(shí)驗(yàn)室研究員時(shí)定兵發(fā)表演講

中國(guó)移動(dòng)研究院項(xiàng)目經(jīng)理李婕妤雖因故未能到場(chǎng)，但仍然向我們共享了關(guān)于中國(guó)移動(dòng)在網(wǎng)絡(luò)架構(gòu)創(chuàng)新上的重要內(nèi)容。面對(duì)AI大模型訓(xùn)練帶來(lái)的巨大通信消耗，中國(guó)移動(dòng)原創(chuàng)提出了GSE技術(shù)體系，通過(guò)革新以太網(wǎng)轉(zhuǎn)發(fā)機(jī)制，實(shí)現(xiàn)了高精度負(fù)載均衡、網(wǎng)絡(luò)層原生無(wú)損及低延遲等三大核心機(jī)制轉(zhuǎn)變。中國(guó)移動(dòng)現(xiàn)網(wǎng)百卡級(jí)中試驗(yàn)證結(jié)果顯示，相較于傳統(tǒng)的RoCE方案，GSE技術(shù)在主流模型訓(xùn)練性能上平均提升了30%以上，尤其在單設(shè)備或單鏈路故障場(chǎng)景下，性能提升更是超過(guò)了40%。

李婕妤表示，智算中心網(wǎng)絡(luò)技術(shù)是依托服務(wù)器網(wǎng)卡、交換機(jī)、DPU芯片、轉(zhuǎn)發(fā)芯片等的一條龐大產(chǎn)業(yè)鏈，技術(shù)體系復(fù)雜，依賴(lài)上下游協(xié)同創(chuàng)新。

在圓桌論壇環(huán)節(jié)，中科馭數(shù)高級(jí)副總裁張宇、中科院計(jì)算所研究員李曉維、中國(guó)電子云云產(chǎn)品線研發(fā)副總裁劉年超以及紫金山實(shí)驗(yàn)室研究員時(shí)定兵圍繞DPU技術(shù)的發(fā)展與應(yīng)用展開(kāi)了深入討論。大家一致認(rèn)為，DPU市場(chǎng)前景廣闊，DPU技術(shù)的發(fā)展伴隨著云計(jì)算和底層基礎(chǔ)設(shè)施的快速迭代，尤其是在過(guò)去四年中，隨著對(duì)DPU認(rèn)知的提升和應(yīng)用探索的深入，DPU迎來(lái)了政策支持和市場(chǎng)需求增長(zhǎng)的機(jī)遇。

對(duì)于DPU在智算中心的高性能網(wǎng)絡(luò)建設(shè)，嘉賓們建議加強(qiáng)自主研發(fā)，推動(dòng)標(biāo)準(zhǔn)化進(jìn)程，提升網(wǎng)絡(luò)的靈活性和可靠性。在DPU規(guī)模應(yīng)用落地方面，行業(yè)應(yīng)注重技術(shù)創(chuàng)新和生態(tài)建設(shè)，加強(qiáng)產(chǎn)業(yè)鏈上下游的合作，建立更多的合作平臺(tái)，促進(jìn)資源共享和技術(shù)交流。未來(lái)3到5年，隨著5G、物聯(lián)網(wǎng)、邊緣計(jì)算等技術(shù)的不斷成熟，算力基礎(chǔ)設(shè)施將朝著智能化、綠色化、高效化的方向發(fā)展，DPU將在其中發(fā)揮重要作用。

▲四位嘉賓深入討論DPU技術(shù)的發(fā)展與應(yīng)用趨勢(shì)

本次論壇的成功舉辦，不僅加深了產(chǎn)學(xué)研各界對(duì)DPU應(yīng)用價(jià)值的理解，也為推動(dòng)構(gòu)建全面、堅(jiān)實(shí)、領(lǐng)先的DPU技術(shù)體系奠定了基礎(chǔ)。我們相信，只有通過(guò)廣泛的交流合作，才能激發(fā)創(chuàng)新的火花，推動(dòng)技術(shù)的突破和發(fā)展。中科馭數(shù)將繼續(xù)致力于DPU產(chǎn)品的研發(fā)和應(yīng)用推廣，深化與高校、科研機(jī)構(gòu)及企業(yè)的合作，共同攻克技術(shù)難題，推動(dòng)標(biāo)準(zhǔn)制定，構(gòu)建完善的DPU生態(tài)系統(tǒng)。同時(shí)不斷創(chuàng)新，為客戶(hù)提供更高效、更可靠的算力解決方案。期待攜手產(chǎn)業(yè)伙伴共同探索新技術(shù)、新模式，共同推動(dòng)我國(guó)算力基礎(chǔ)設(shè)施邁向新的高度。

下次再會(huì)！

審核編輯 黃宇