近日，在Create2025百度AI開發(fā)者大會上，沈抖分享了百度智能云在智能基礎(chǔ)設(shè)施建設(shè)方面的最新成果，并在算力、模型及應(yīng)用等方面發(fā)布一系列全新產(chǎn)品。

大模型的高效落地亟需從底層算力到應(yīng)用的全棧、系統(tǒng)級支撐——既需高性能硬件與集群優(yōu)化，也需靈活的開發(fā)工具鏈與場景化解決方案。基于多年在大模型研發(fā)與產(chǎn)業(yè)落地的深厚積累，百度智能云構(gòu)建了新一代系統(tǒng)級智能基礎(chǔ)設(shè)施，為企業(yè)大模型應(yīng)用落地提供最佳解決方案。

相關(guān)數(shù)據(jù)顯示，2024全年百度智能云在大模型相關(guān)中標(biāo)項(xiàng)目數(shù)、行業(yè)覆蓋數(shù)、央國企中標(biāo)項(xiàng)目數(shù)三個維度均為第一，在能源、政務(wù)、金融三個行業(yè)的中標(biāo)項(xiàng)目數(shù)位于所有廠商第一。

截止目前，千帆平臺企業(yè)用戶數(shù)量超40萬，千帆平臺組件數(shù)量超1000個，企業(yè)在千帆平臺上已開發(fā)出了超100萬個應(yīng)用。

沈抖表示，系統(tǒng)的價(jià)值，不僅是解決某一個問題，而是讓企業(yè)擁有創(chuàng)造“創(chuàng)造的能力”。企業(yè)可以結(jié)合自己的數(shù)據(jù)、流程、邏輯，利用百度智能云的系統(tǒng)級能力打造企業(yè)專屬AI基礎(chǔ)設(shè)施。

01穩(wěn)定、高效地釋放算力的真正價(jià)值

算力是AI時(shí)代的“新電力”。本次大會，國內(nèi)首個全自研的3萬卡集群被正式點(diǎn)亮，可同時(shí)承載多個千億參數(shù)大模型的全量訓(xùn)練，支持1000個客戶同時(shí)做百億參數(shù)的大模型精調(diào)。

如何穩(wěn)定、高效地釋放算力的真正價(jià)值才是關(guān)鍵所在。沈抖認(rèn)為，未來三年，推理降本，一定是企業(yè)最重要的工作。

百度智能云全面升級百舸推理加速能力。通過大規(guī)模分布式推理的PD分離，百舸支持客戶根據(jù)不同場景的業(yè)務(wù)特點(diǎn)，自適應(yīng)地設(shè)置PD配比，并做到token級別的PD負(fù)載均衡。針對MoE模型，百舸做到了大規(guī)模多機(jī)專家并行的極致優(yōu)化，可以大幅降低MoE模型推理的通信開銷。最后，百舸對核心鏈路上的每一個細(xì)節(jié)做了系統(tǒng)級的工程優(yōu)化，大幅提升GPU的有效利用率。

從百度內(nèi)部實(shí)踐來看，百舸推理加速的能力正在作為千帆的算力底座，為40萬客戶提供服務(wù)。上線以來，千帆的推理吞吐提升20倍，推理速度提升50%以上。在外部，百舸不止支持著像招商銀行、中國石化、長安汽車等企業(yè)的超大規(guī)模算力需求，也很好地支撐著創(chuàng)企客戶、伙伴的模型訓(xùn)練、推理需求。

以北京人形機(jī)器人創(chuàng)新中心為例，百度百舸為創(chuàng)新中心構(gòu)建了穩(wěn)定的超大算力集群，確保具身模型的訓(xùn)練和推理得以高效進(jìn)行，支持了人形機(jī)器人的快速迭代。

在近日全球首個人形機(jī)器人半程馬拉松中，北京人形機(jī)器人創(chuàng)新中心旗下純電驅(qū)全尺寸人形機(jī)器人“天工”，以2小時(shí)40分42秒的成績率先沖線一舉奪冠。

02為企業(yè)應(yīng)用開發(fā)提效！

千帆發(fā)布智能體Pro及MCP服務(wù)

企業(yè)部署大模型，不僅需要高性價(jià)比的模型服務(wù)，更需要全面的模型工具。在模型服務(wù)層面，目前千帆平臺上有超過100多個模型，不僅包括文心大模型4.5 Turbo、文心大模型X1 Turbo等百度自研模型，還包括DeepSeek、Ilama、Vidu等第三方模型，服務(wù)穩(wěn)定、可靠。在模型開發(fā)層面，千帆平臺可以提供全面的模型開發(fā)工具鏈，支持深度思考模型、多模態(tài)模型的定制、精調(diào)。

以模型蒸餾為例，智聯(lián)招聘在人崗匹配場景使用了千帆平臺的模型蒸餾工具鏈，用千億參數(shù)的DeepSeek R1作為“教師模型”，用百億參數(shù)的ERNIE Speed作為“學(xué)生模型”，經(jīng)過調(diào)優(yōu)后的小參數(shù)模型，不僅可以媲美“教師模型”的效果，成本也降低至3成。

在應(yīng)用開發(fā)上，本次大會千帆平臺全面升級了企業(yè)級Agent開發(fā)工具鏈，發(fā)布了全新推理式智能體——智能體Pro，從快問快答升級到深思熟慮，并且支持每個企業(yè)定制自己的專屬智能體。

以污水寶為例，基于千帆Agentic RAG能力，讓Agent結(jié)合企業(yè)自己的私域數(shù)據(jù)和企業(yè)知識庫，可以基于對任務(wù)的理解去制定檢索策略，大幅降低模型幻覺。同時(shí)，智能體Pro也支持Deep Research深度研究模式，能讓Agent自主完成復(fù)雜任務(wù)的步驟規(guī)劃、信息篩選和整理，支持像人一樣操控電腦瀏覽網(wǎng)頁（computer use）進(jìn)行探索式知識收集，也支持像人一樣使用多種工具繪制圖標(biāo)、撰寫，生成結(jié)構(gòu)清晰、內(nèi)容豐富的專業(yè)報(bào)告。

基于DeepResearch能力，榮耀正在利用千帆平臺，面向高校學(xué)生、職場白領(lǐng)等群體，打造一款科研場景深度研究的應(yīng)用，將很快會在榮耀筆記本上上線。

MCP的出現(xiàn)，幫助開發(fā)者和企業(yè)在開發(fā)Agent時(shí)，能夠更好地利用行業(yè)數(shù)據(jù)和工具。本次大會，百度智能云正式發(fā)布國內(nèi)首個企業(yè)級MCP服務(wù)，第一批已經(jīng)有超過1000個MCP Servers 供企業(yè)及開發(fā)者靈活選擇。另外，開發(fā)者也可以在千帆上開發(fā)自己的MCP Server，并發(fā)布到MCP廣場，支持免費(fèi)托管，而且百度搜索也會索引這些MCP Server，讓它們被更多的開發(fā)者引用。

從模型服務(wù)到應(yīng)用開發(fā)，企業(yè)客戶已經(jīng)在千帆平臺上做出了很多行業(yè)創(chuàng)新。民生銀行與百度智能云合作，探索大模型在商業(yè)銀行的落地，完成了金融領(lǐng)域第一個端到端涵蓋算力、平臺、模型、應(yīng)用四層架構(gòu)的項(xiàng)目落地。

03自研AI應(yīng)用重磅升級：實(shí)現(xiàn)營銷全旅程服務(wù)

視覺AI應(yīng)用成本大幅下降

百度智能云打造的智能基礎(chǔ)設(shè)施也支撐著百度自己的應(yīng)用創(chuàng)新。本次大會，百度智能云面向智能營銷、視覺AI兩大領(lǐng)域，升級了兩大自研AI應(yīng)用產(chǎn)品。

金融營銷場景需要高精準(zhǔn)獲客、“高情商”客服及高效的流失預(yù)警，百度智能云本次升級發(fā)布客悅·ONE，在上述核心場景進(jìn)行了全面優(yōu)化，為客戶提供全生命周期智能營銷服務(wù)，助力企業(yè)實(shí)現(xiàn)營銷效能全面提升。

以理財(cái)撤單場景為例，傳統(tǒng)模式下，用戶需經(jīng)歷復(fù)雜的說明閱讀和多層級菜單操作，效率低下。客悅通過AI驅(qū)動的智能交互，極大簡化了這一流程。AI不僅能識別并安撫用戶焦慮，更能在對話中直接引導(dǎo)解決問題，還能自動提煉關(guān)鍵信息并回流數(shù)據(jù)，持續(xù)優(yōu)化服務(wù)體驗(yàn)。

目前客悅已經(jīng)服務(wù)銀行、證券、保險(xiǎn)等不同細(xì)分領(lǐng)域的金融企業(yè)50余家，落地金融行業(yè)10余個場景。

為了解決視覺AI模型訓(xùn)練周期長、門檻高，需要大量人工干預(yù)的問題。百度智能云升級發(fā)布一見5.0，在標(biāo)準(zhǔn)化高、規(guī)則清晰的任務(wù)中，僅需一句自然語言，即可秒級生成專業(yè)級視覺AI應(yīng)用，一線業(yè)務(wù)人員也能輕松上手，借助云邊協(xié)同，應(yīng)用成本大幅降低，加速了視覺智能規(guī)模化的落地。

目前，百度智能云從算力、平臺到應(yīng)用的系統(tǒng)級能力，已經(jīng)在多個企業(yè)場景中穩(wěn)定運(yùn)行。中國鋼研與百度智能云聯(lián)合打造全棧智能基礎(chǔ)設(shè)施，基于昆侖芯和百舸，搭建了專屬的智算平臺；在千帆上做模型精調(diào)，使用大、小模型結(jié)合的方式獲得最佳效果；結(jié)合一見視覺平臺，快速完成了表面缺陷檢測、金相分析等核心場景的應(yīng)用開發(fā)。