4月16日，Create 2024 百度AI開發者大會在深圳召開。期間，百度集團執行副總裁、百度智能云事業群總裁沈抖正式發布新一代智能計算操作系統——萬源，通過對AI原生時代的智能計算平臺進行抽象與封裝設計，為用戶屏蔽掉云原生系統與異構算力的復雜性，提升AI原生應用開發效率與體驗。
?
沈抖表示，隨著大模型技術的不斷演進，通過自然語言進行編程正在成為現實。編程將不再面向過程或者面向對象，而是面向需求；編程的過程將成為開發者表達愿望的過程，并為操作系統帶來革命性的變化。在操作系統的內核中，底層硬件從以CPU算力為主變成以GPU算力為主，并且新增了被大模型壓縮的世界知識。操作系統管理的對象發生了本質的變化，從管理進程、管理微服務，進化為管理智能。
?

（百度集團執行副總裁、百度智能云事業群總裁沈抖）

?
“傳統的云計算系統依然重要，但不再是主角，我們需要一個全新的操作系統，對新的計算平臺，也就是智能計算做好抽象和封裝，重新定義人機交互，為開發者提供更簡單、更流暢的開發體驗。”沈抖如是說。
?

（百度智能云發布新一代智能計算操作系統——萬源）

?
本次大會上，百度智能云全新推出的“萬源”智能計算操作系統，旨在“橋接”算力效能與應用創新。具體來講，萬源主要由Kernel（內核）、Shell（外殼）、Toolkit（工具）三層構成，底層屏蔽掉云原生系統與異構算力的復雜性，上層則為AI原生應用的敏捷開發提供支撐與保障。
?
首先，在內核層，在算力資源管理方面，百度百舸·AI異構計算平臺針對大模型訓練、推理等任務，對智算集群的設計、調度、容錯等環節進行了專項優化。目前，百舸能夠實現萬卡集群上的模型有效訓練時長占比超過98.8%，線性加速比、帶寬有效性分別高達95%，算力效能業界領先。
?
此外，百舸還兼容昆侖芯、昇騰、海光DCU、英偉達、英特爾等國內外主流AI芯片，支持用戶以最小代價完成算力適配。相比模型推理，“一云多芯”在模型訓練場景中是極難攻堅的難題，主要包含兩類細分場景：
?
1、智算集群中存在多個訓練任務，單一廠商芯片只服務單一任務；
2、在每個獨立的模型訓練任務中同時使用不同廠商芯片。這就需要解決不同廠商芯片算力均勻切分、芯片間通信效率優化等問題，難度極高。
?

（業界領先的單一任務一云多芯大模型訓練解決方案）

?
目前，百舸已經實現了單一訓練任務下不同廠商芯片的混合訓練，且百卡規模性能損失不超過3%，千卡規模性能損失不超過5%，業界領先。最大程度上屏蔽硬件之間差異，幫助用戶擺脫單一芯片的依賴，實現更優成本，打造更具彈性的供應鏈體系。
?
萬源內核中的另一個重要組成部分是大模型。大模型能夠將巨量的世界知識進行高效壓縮，并將自然語言的理解、生成、邏輯、記憶能力進行封裝。目前，萬源內核中既包含了業界領先的ERNIE 4.0、ERNIE 3.5大語言模型，也包括ERNIE Speed/Lite/Tiny等輕量級模型、文心視覺大模型和各具特色的第三方大模型，充分滿足用戶在不同業務場景下的多樣化需求。
?
在內核層之上是Shell層，通過百度智能云千帆ModelBuilder解決內核中模型的管理、調度、二次開發等問題，屏蔽掉模型開發的復雜性，幫助更多人只投入少量的數據、資源和精力，就能快速精調出適合自己業務的模型。同時，在實際應用中，ModelBuidler提供的模型路由服務，能夠自動為不同難度的任務選擇合適參數規模的模型，給出平衡效果與成本的最優模型組合。經測算，在模型效果基本持平的情況下，模型路由平均降低推理成本多達30%！
?
在Shell層之上，千帆AppBuilder和AgentBuilder共同構成了工具層，為開發者提供強大的AI原生應用開發能力。尤其是AppBuilder提供的工作流編排功能，支持開發者使用預置的模板和組件，輕松定制自己的業務流程，還能夠集成、擴建自己的特色組件，在不同節點上選用適合的模型，通過靈活的編排實現業務邏輯。
?
在AppBuilder上開發AI原生應用的過程中，還可以直接調用通過ModelBuilder精調過的模型，讓整個開發過程變得極為流暢和便捷。在應用開發完成后，可以一鍵發布到百度搜索、微信公眾號等平臺，也可以通過API或SDK的方式直接集成到用戶自己的系統中，真正做到極速開發、輕松上市。
?
萬源作為開放的操作系統，未來還將進一步開放生態合作，為應用開發者提供更多能力和接口；助力企業打造專屬的垂直行業操作系統；將萬源部署在客戶自有智算中心，提供穩定、安全、高效的智能計算平臺服務；適配更多廠商異構芯片并發揮其最大效能。
?
當前，大模型技術與AI原生應用正在促使云服務向以AI為核心的新一代智能計算操作系統方向發展，這一趨勢不僅反映了技術發展的內在邏輯，也體現了市場需求的強勁推力，并開啟一個由AI驅動的嶄新的智能云時代。
?
?