近日，昇思人工智能框架峰會暨成果發布會在北京舉辦。AI框架作為大模型開發及產業落地的基礎軟件，在人工智能技術棧中起到使能算法開發、釋放硬件性能的“承上啟下”作用。

會上，商湯參與基于昇思AI框架的大模型原生開發成果發布；同時，商湯基于華為生態在模型和算法方面的優秀創新與實踐，獲得了昇思MindSpore開源社區2024年度杰出開發者稱號，標志著雙方在推動人工智能技術發展方面邁出了堅實的一步，通過共同構建框架新生態，為用戶提供更加高效、便捷、可靠的智算服務。

強強結合，取得多項聯創成果

2024年，商湯依托昇騰與昇思生態，共同推進基礎模型、行業大模型應用與創新，通過高效并行、通信優化及網絡架構感知和任務調度等軟硬優化技術，構建了大規模并行訓練加速系統。在此基礎上，商湯聯合昇思MindSpore優化混合專家(MoE)模型高效計算架構，模型性能提升18%以上。

基于昇思MindSpore，商湯還建設長序列并行訓練加速機制，與業界相比，4K序列性能提升1倍以上，32K序列性能持平，并支持處理128K長序列訓練。

目前，商湯日日新大模型從底層軟件棧的接入到基礎框架優化、再到模型原生開發，在性能、穩定性等關鍵參數方面超過業界。

多元異構，引領AI基礎設施自主可控實踐

商湯大裝置積極開展芯片適配，推動智能算力多元化。基于自研訓練框架與推理框架，聯合產業鏈上下游企業開展多元GPU芯片適配工作，搭建能兼容多種芯片的異構算力體系。

目前，AI國產算力集群算力規模超2,000PetaFLOPS。商湯大裝置面向多元芯片打造的技術體系，為多樣化計算場景下的大模型高效部署與創新應用落地提供了有力支撐。

商湯大裝置多元芯片技術體系包含原生云組件、訓推一體加速和多元異構算力，可提供全面的資源狀態監控，打通從訓練到推理的全鏈路操作，實現95%以上的多元異構混訓效能，優化整體能耗，降低運營成本。

算力加持，穩居智算第一梯隊

商湯大裝置不僅算力規模達20,000 PetaFLOPS，軟件和平臺的創新力和服務能力亦備受各界認可。在IDC此前發布的《中國智算服務市場（2023下半年）跟蹤》報告中，商湯在中國云計算基礎設施廠商中脫穎而出，與火山引擎、阿里巴巴共同躋身2023年下半年中國GenAI IaaS服務廠商TOP 3，以顯著的市場份額優勢位居GenAI IaaS領域的第一梯隊。

在IDC發布《中國模型即服務（MaaS）及AI大模型解決方案市場追蹤，2024H1》報告中，商湯科技（商湯大裝置萬象）以14.8%的市場份額位居第二，領跑AI大模型解決方案行業第一梯隊。

商湯大裝置始終致力于打造高效易用的全棧大模型服務，無縫對接各類模型應用場景，提升大模型技術的落地效率，更好地賦能千行百業。