最近，AI領(lǐng)域關(guān)于AI Infra，即人工智能基礎(chǔ)設(shè)施的討論越來越熱烈。DeepSeek V3.1發(fā)布后，一則適配下一代國產(chǎn)芯片的官方留言讓寒武紀(jì)的市值預(yù)估全面上調(diào)。百度的昆侖芯中標(biāo)了中國移動集采項(xiàng)目的十億級訂單。從產(chǎn)業(yè)界到投資界，可以說全面提升了對AI基礎(chǔ)軟硬件的整體期待。

這種變化的內(nèi)在原因是什么？為什么AI Infra開始成為AI產(chǎn)業(yè)熱切追逐的新關(guān)鍵詞？如何才能實(shí)現(xiàn)符合產(chǎn)業(yè)期待的AI Infra？

想要探討這個(gè)問題時(shí)，我想到了一個(gè)有趣的名字：《變形金剛》里的擎天柱。1984年，上海電影譯制廠在引進(jìn)這部經(jīng)典動畫片的時(shí)候，將其中主角汽車人領(lǐng)袖Optimus Prime的中文譯名定為“擎天柱”。相比于港臺版的“柯博文”和“無敵鐵牛”，取自《淮南子》中共工氏怒觸不周山故事的“擎天柱”可謂兼具信達(dá)雅。這個(gè)名字展現(xiàn)出了主角強(qiáng)悍勇猛的外表與戰(zhàn)斗力，同時(shí)表達(dá)出了其能夠支撐一切，堅(jiān)實(shí)可靠的精神內(nèi)核。

在AI時(shí)代，我們總是希望讓智能化技術(shù)打破天花板，探索到人類此前無法觸及的未知領(lǐng)域。但想要實(shí)現(xiàn)這個(gè)目標(biāo)，首先需要有堅(jiān)實(shí)的基礎(chǔ)設(shè)施，能夠支撐AI模型觸達(dá)天際。

8月28日，2025百度云智大會在北京舉辦。期間全面升級的百舸5.0，或許就是這樣一座AI擎天柱。

一般意義上來說，AI Infra指用來部署、運(yùn)行、管理和優(yōu)化AI模型的軟硬件體系，其中包括我們熟悉的AI算力、AI推理引擎，以及一系列模型開發(fā)與調(diào)用工具等。AI infra可以說自AI技術(shù)誕生之日起就存在，但為什么近期才引發(fā)廣泛關(guān)注？

這其中的核心因素在于，在大模型發(fā)展的初始階段，各界對AI infra需求是只要能夠支撐大模型訓(xùn)練推理就可以，關(guān)于產(chǎn)業(yè)創(chuàng)新力與競爭力的聚焦重點(diǎn)更多集中在模型本身。但隨著大模型與各個(gè)產(chǎn)業(yè)場景的融合，以及模型調(diào)用體量的規(guī)模化，大家逐漸發(fā)現(xiàn)基礎(chǔ)設(shè)施并不僅僅意味著能訓(xùn)練、能推理，而是可以基于基礎(chǔ)設(shè)施，為模型創(chuàng)造新價(jià)值，強(qiáng)化模型本身的訓(xùn)推效率與用戶體驗(yàn)。如果說，過去行業(yè)對AI Infra的要求是能夠跑起來模型，那現(xiàn)在的目標(biāo)則轉(zhuǎn)為依靠AI Infra贏得未來。

舉個(gè)例子，今天我們可以在各個(gè)平臺應(yīng)用到DeepSeek，但是不同平臺間的體驗(yàn)效果卻有著明顯的差異。有些平臺很容易陷入卡頓，有些平臺會有普遍過高的推理時(shí)長。稍加比對之后，用戶就會自然傾向選擇那些更流暢、快捷的平臺來使用大模型。這就是AI Infra差異給企業(yè)帶來的競爭力差距。

而在諸多AI Infra的相關(guān)能力中，AI算力毫無疑問是最關(guān)鍵的一種。良好的AI算力供給已經(jīng)不只是模型推訓(xùn)的基礎(chǔ)支撐，更是模型效果與商業(yè)前景的決定性因素。

一般來說，算力向的AI Infra平臺在三方面決定了模型的上限：帶來低延遲、高效率的模型訪問體驗(yàn)，讓AI推理絲滑流暢；實(shí)現(xiàn)強(qiáng)大的模型穩(wěn)定性，確保服務(wù)不中斷，不降級；提高資源利用率，讓更少的硬件處理更多請求，從而降低整體性AI成本。

所謂AI Infra不牢，大模型地動山搖。AI infra已經(jīng)不再是千篇一律的共性條件，而是其本身就能成為AI競爭力的核心來源。想要讓模型突破想象力的天際，首先需要架起AI infra的擎天柱。

全新升級的百舸，目標(biāo)就是定義擎天柱一般牢固可靠的基礎(chǔ)設(shè)施。

AI算力基礎(chǔ)設(shè)施的效果來自多個(gè)層面，比如網(wǎng)絡(luò)、計(jì)算、推理等。而百舸新升級的亮點(diǎn)之處就在于，它不是從某個(gè)方面提升AI算力的獲取效果，而是帶來一場近乎全方位的實(shí)力增長。也就是說，百舸正在從全維度上定義什么是AI算力的擎天柱。

百度智能云最新發(fā)布的百舸AI計(jì)算平臺5.0，在網(wǎng)絡(luò)、計(jì)算、推理系統(tǒng)，以及訓(xùn)推?體效率上進(jìn)行了全面升級，實(shí)現(xiàn)了強(qiáng)化學(xué)習(xí)效率領(lǐng)先的跨越式迭代，從而全面打破了AI計(jì)算的效率瓶頸。

所謂鼎有三足，三角形具有穩(wěn)定性。具體來看，百舸5.0的支柱作用，就是由極其穩(wěn)固的三大支點(diǎn)構(gòu)筑而成的：

1.網(wǎng)絡(luò)支柱。

百舸5.0對大模型計(jì)算多涉及的VPC、RDMA和X-Link網(wǎng)絡(luò)都進(jìn)行了全面升級。其中高速VPC網(wǎng)絡(luò)可以支持200Gbps（GigaBytes）的巨型幀傳輸，從而顯著提升模型的訓(xùn)推效率。百舸自研HPN網(wǎng)絡(luò)可以支持單集群10萬卡RDMA網(wǎng)絡(luò)互聯(lián)，并將端到端延遲壓縮至4us。面對超大參數(shù)規(guī)模的MoE模型，百舸打造了百度自研的X-Link協(xié)議，實(shí)現(xiàn)了更快速度的專家間通信。從而為MoE模型帶來更好的推訓(xùn)效果。

2.計(jì)算支柱。

面對超大模型對大規(guī)模AI計(jì)算集群的必然需求，百舸也進(jìn)行了超節(jié)點(diǎn)的全新探索。最新發(fā)布的昆侖芯超節(jié)點(diǎn)，采用了深受國家重點(diǎn)行業(yè)認(rèn)可，百度全棧自研的昆侖芯，通過將64張卡組成超節(jié)點(diǎn)，昆侖芯超節(jié)點(diǎn)實(shí)現(xiàn)了單卡性能提升95%，單實(shí)例推理能力提升8 倍。而公有云是企業(yè)獲取大規(guī)模AI算力的最佳途徑。基于百舸，用戶可以輕松在幾分鐘時(shí)間內(nèi)，利用1個(gè)云實(shí)例，就允許萬億參數(shù)的大模型。基于百度智能云強(qiáng)大的技術(shù)能力，昆侖芯超節(jié)點(diǎn)在各項(xiàng)能力上都實(shí)現(xiàn)了業(yè)界最佳，從而讓百舸在AI Infra上成為國內(nèi)天花板級別的存在，真正做到了力可擎天。

3.推理支柱。

伴隨著大模型成為越來越多用戶的日常剛需，模型推理能力的提升進(jìn)入了非常關(guān)鍵的攀升階段。為此，百舸5.0全新升級了推理系統(tǒng)，通過“解耦”“自適應(yīng)”和“智能調(diào)度” 三大核心策略，對AI推理的算力、內(nèi)存、網(wǎng)絡(luò)等資源進(jìn)行極致精細(xì)化的管理和優(yōu)化，從而實(shí)現(xiàn)性能的數(shù)量級提升，最終實(shí)現(xiàn)MoE推理吞吐模型提升超過50%，TTFT低至0.5秒。

回到上文討論過的DeepSeek推理部署場景，在全新升級的百舸中，DeepSeek R1的推理吞吐可以提升50%，從而讓百舸用戶可以有效獲得遠(yuǎn)超同類平臺的模型體驗(yàn)與資源利用效率。

與此同時(shí)，百舸發(fā)布的強(qiáng)化學(xué)習(xí)框架可以實(shí)現(xiàn)極致壓榨算力資源，提升訓(xùn)練、推理效率的全面迭代。框架不再把訓(xùn)練和推理當(dāng)作兩個(gè)獨(dú)立的流程，而是將其實(shí)現(xiàn)像工業(yè)流水線一般的高度協(xié)同、無縫銜接。這種工作模式可以最大化提升資源利用效率，將成為主流的強(qiáng)化學(xué)習(xí)模型整體效率提升到行業(yè)新高度。目前，其已經(jīng)支撐了百度在金融、教育、編程、客服等垂直領(lǐng)域的強(qiáng)化學(xué)習(xí)模型訓(xùn)練，接下來將成為產(chǎn)業(yè)各界擁抱強(qiáng)化學(xué)習(xí)模型的關(guān)鍵契機(jī)。

這三大支柱的加持，讓百舸5.0能夠?qū)?模型的計(jì)算效率提升至極致。也只有如此，模型才能進(jìn)一步打破極限，自由探索廣闊無際的智能奧義。

想讓模型捅破天，就要讓AI Infra變成擎天柱——這就是百舸5.0的定義的基礎(chǔ)設(shè)施強(qiáng)度。

《變形金剛》里，擎天柱最常說的一句臺詞是“汽車人，變形出發(fā)”。在現(xiàn)實(shí)世界，百舸5.0的臺詞則應(yīng)該是：企業(yè)智能化，基于AI Infra變形出發(fā)。

我們可以通過兩個(gè)故事，來看看那些最受關(guān)注的行業(yè)和領(lǐng)域，如何通過百舸打破產(chǎn)業(yè)局限，實(shí)現(xiàn)將基礎(chǔ)設(shè)施化為AI生產(chǎn)力的目標(biāo)。

故事一，“機(jī)器人變形”。

具身智能是目前國內(nèi)炙手可熱的科技發(fā)展與創(chuàng)業(yè)、投資風(fēng)口。而百度智能云則已經(jīng)支持了包括北京、上海、浙江、廣東創(chuàng)新中?在內(nèi)的具身智能“國家隊(duì)”，也在為產(chǎn)業(yè)鏈上超過20家重點(diǎn)企業(yè)提供算力支持。

百度智能云之所以能夠獲得青睞，是因?yàn)榫呱碇悄芴幵谛袠I(yè)發(fā)展初期，急需要強(qiáng)大的算力支撐，并且盡可能提高模型的開發(fā)效率。百舸在算力高效調(diào)度、模型訓(xùn)推加速等方面的產(chǎn)品技術(shù)積累，可以大幅提升了具身智能模型的開發(fā)效率。在具身智能的高速發(fā)展階段，百舸提供了極其關(guān)鍵的效率與資源利用率支持，讓機(jī)器人更好、更快地向著實(shí)用化、可落地的方向“變形”。

故事二，“創(chuàng)作者出發(fā)”。

Vast是一家專注于通用模型研發(fā)的AI公司，致力于通過打造大眾級3D內(nèi)容創(chuàng)作工具建立3D UGC內(nèi)容平臺。主要產(chǎn)品是面向游戲、CG影視、動畫、建筑室內(nèi)、XR/VR、數(shù)字孿生等行業(yè)提供的3D大模型。借助Vast方案，用戶僅需上傳圖片1分鐘內(nèi)便可生成空間3D資產(chǎn)，是這一領(lǐng)域冉冉升起的新星企業(yè)。

在業(yè)務(wù)發(fā)展過程中，Vast發(fā)現(xiàn)需要面臨冗長的模型訓(xùn)練周期與高昂的算力成本，并且從數(shù)據(jù)籌備到模型訓(xùn)推，每一步都必須精準(zhǔn)無誤，對團(tuán)隊(duì)技術(shù)能力考驗(yàn)極高。通過使用百舸平臺，Vast獲得了專為大模型打造的高性能云原生AI計(jì)算支持。其中包含全面的集群運(yùn)維支持和任務(wù)全生命周期管理，同時(shí)具備訓(xùn)練/推理加速、故障容錯(cuò)、智能故障診斷等高級功能。通過強(qiáng)大的AI基礎(chǔ)設(shè)施與成熟的AI工程化能力，百舸有效降低了Vast的大模型訓(xùn)練時(shí)間，節(jié)約了資源成本，并且極大降低了模型訓(xùn)推的綜合門檻。最終實(shí)現(xiàn)了Vast可以更快、更好地開發(fā)出新一代3D大模型，最終讓設(shè)計(jì)師與內(nèi)容創(chuàng)作者獲得高效探索AI可能性的方案。

百舸對智能化業(yè)務(wù)的深度理解和有效支撐，深深根植于百度智能云在AI云領(lǐng)域的積累。根據(jù)8月18日IDC發(fā)布的《中國AI公有云服務(wù)市場份額，2024：全面向生成式AI演進(jìn)》顯示，2024年中國AI公有云服務(wù)市場規(guī)模達(dá)195.9億元，百度智能云以24.6%的市場份額穩(wěn)居第一，連續(xù)六年、累計(jì)十次蟬聯(lián)中國AI公有云市場冠軍，充分體現(xiàn)了百度智能云率先提出“云智一體”戰(zhàn)略的前瞻性與落地成果。深度理解AI業(yè)務(wù)，并能提供強(qiáng)有力的AI算力支撐，事實(shí)上在公有云市場當(dāng)中是一種十分稀缺的能力。而這也在成為百度智能云堅(jiān)固的護(hù)城河。

在百度智能云的體系中扮演算力底座的百舸，正在加速成長和壯大。從以上這些故事中不難看出，百舸5.0作為擎天柱，托舉著企業(yè)打破AI時(shí)代的天花板。在降低訓(xùn)練時(shí)長、節(jié)約資源開支、提升模型體驗(yàn)、降低模型開發(fā)難度等方面實(shí)現(xiàn)了全方位的AI infra升級。

在它的幫助下，企業(yè)可以更簡單快捷地出發(fā)，去探索，去創(chuàng)造，去將未知收入囊中。AI在這個(gè)時(shí)代的探索高度，不妨就從百舸定義的AI infra強(qiáng)度開始。

審核編輯 黃宇