日前,在2025世界人工智能大會(WAIC)期間,商湯大裝置發布基于DeepLink的異構混合調度方案,將DeepLink深度融入商湯大裝置核心能力體系。該方案針對當前國產算力資源碎片化、異構芯片調度復雜、跨域訓練穩定性不足等行業挑戰,全面提升異構集群的協同效率與運行可靠性,加速國產AI算力從“可用”邁向“好用”,為大模型訓練提供強大而高效的支撐能力。
活動現場,商湯大裝置事業群產品總經理盧國強和上海人工智能實驗室DeepLink高級解決方案專家王峰在WAIC UP魔盒直播間進行解讀,詳細介紹了相關的技術原理與產業價值。
打通軟硬壁壘
構建AI算力協同新路徑
DeepLink是由上海人工智能實驗室(上海AI實驗室)推出的人工智能開放計算體系,其目標是搭建在硬件芯片與深度學習軟件框架之間進行適配的橋梁,共建開放的軟硬件適配生態。DeepLink把AI芯片與基礎框架連接起來,上下游廠商基于DeepLink一次適配即可接入廣泛的算法生態,實現軟硬件解耦,破除生態壁壘。
當下,大規模集群建設的同時,仍然存在軟硬件優化適配不足、資源利用率低、供需失衡等問題。為更好的推進問題解決,上海AI實驗室率先探索并研發了DeepLink超大規??缬蚧煊柤夹g方案,通過訓練加速、異構通信、并行策略等核心技術,打破芯片架構差異帶來的協同壁壘,重構計算資源調度體系。
今年2月,上海AI實驗室聯合包括商湯在內的十余家合作伙伴,于上海建成了超大規??缬蚧煊柤涸?,并已在千億量級參數的自研模型上,完成20天不間斷長穩訓練,效率達單一芯片集群的90%。此突破成果為快速實現智算中心互聯、支撐超大模型混訓提供可行技術保障。其中,商湯大裝置為超大規模的混訓集群提供了算力調度和管理平臺,從而支持了多芯集群的穩定運行。
共建異構算力生態
釋放超大規模異構算力集群價值
基于DeepLink的異構混合調度方案的發布,是商湯大裝置與上海AI實驗室長期協作的重要成果。商湯大裝置與DeepLink的深度融合,具備以下特點:
l多芯片協同調度:可實現多種國產芯片之間的協同通信與統一調度,并自動進行并行策略優化和負載均衡,真正做到“不同芯片,同一平臺”的協同工作,釋放異構集群的計算潛力。
l高效混訓,穩定可控:顯著提升了異構調度與彈性算力能力,以秒級彈性伸縮、分鐘級故障恢復等,保障大模型訓練過程穩定、高效、可控。
l支持主流模型全流程運行:方案兼容DeepSeek、InternLM、LLaMA、Qwen等主流大模型,適配稠密模型與MoE架構,支持訓練與推理的高效執行。
商湯大裝置事業群產品總經理盧國強表示:“通過基于DeepLink的異構混合調度方案,商湯大裝置將為更多GPU適配、訓練和推理場景擴展、商業化落地提供更強助力。未來,商湯大裝置將與上海人工智能實驗室持續深化合作,加快國產AI算力芯片的適配與優化,共筑國產AI生態底座,為智能時代的產業升級注入源源不斷的技術動能?!?/p>
-
AI
+關注
關注
91文章
40725瀏覽量
302383 -
商湯
+關注
關注
0文章
94瀏覽量
4415 -
大模型
+關注
關注
2文章
3726瀏覽量
5258
原文標題:商湯大裝置發布基于DeepLink的異構混合調度方案,加速國產算力從“可用”邁向“好用”
文章出處:【微信號:SenseTime2017,微信公眾號:商湯科技SenseTime】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
壁仞科技與上海人工智能實驗室合作推出全新DeepLink混推方案
FPGA+GPU異構混合部署方案設計
商湯科技正式發布AI辦公智能體小浣熊3.0
商湯大裝置重磅發布多項標志性成果
商湯大裝置算力Mall重磅發布
商湯大裝置聯合發布臨港AIDC算電協同平臺
商湯科技發布悟能具身智能平臺
商湯大裝置賦能WAIC 2025主題曲首發
爆款應用背后的商湯大裝置
潤和軟件發布StackRUNS異構分布式推理框架
商湯大裝置發布基于DeepLink的異構混合調度方案
評論