人工智能框架作為軟件根技術，已成為加速人工智能大模型開發、推動產業智能化發展的核心力量。以“為智而昇，思創之源”為主題的昇思人工智能框架峰會2024在北京國家會議中心舉辦，旨在匯聚AI產業界創新力量，推動根技術持續創新，共建人工智能開源新生態。軟通動力作為聯合承辦方深度參與該峰會。

大會期間，昇思MindSpore開源社區理事會第三次閉門會議召開，軟通動力高級副總裁、數字基礎設施與集成總經理謝睿作為理事會成員代表出席，與行業伙伴共探MindSpore未來發展趨勢。

會上，軟通動力數字基礎設施與集成技術總監單繼嶺發表了題為“軟通動力訓推一體化平臺加速企業智能化升級”的主題演講，旨通過一體機形式幫助客戶實現大模型場景推理“最后一公里”。

此外，昇思人工智能框架峰會2024的舉辦為業界提供了一個交流合作的平臺。大會期間，軟通動力在峰會展區亮相了“AI訓推一體化平臺”和“天璇2.0MaaS平臺，與眾多伙伴進行了互動與合作。

軟通動力AI訓推一體化平臺，打通AI應用最后一公里

人工智能作為引領未來的戰略性技術，正在深刻推動著人類社會和產業變革；人工智能框架作為軟件根技術，在AI技術的迭代中扮演著重要角色。在此背景下，軟通動力推出AI訓推一體化平臺，該平臺集成了昇騰AI基礎硬件平臺、天鶴OS操作系統等組件，并搭載天璇2.0 MaaS平臺，支持一站式AI開發，疊加行業AI大模型，深度適配企業不同AI應用場景。軟通AI訓推一體化平臺支持昇思MindSpore 全場景AI框架，具備用戶態易用、運行態高效、部署態靈活的特點，可以為用戶提供設計友好、運行高效的開發體驗。目前，軟通AI訓推一體化平臺已覆蓋央國企、科技機構、教育實訓、金融等打造多個offering服務不同客戶。

當前，大模型在各行各業的規模化應用落地面臨精準度不夠、與業務系統聯動不足、數據安全擔憂、算力成本居高不下等問題，為提升大模型在實際業務中的有效應用，軟通動力聯合百川智能推出“軟通-百川AI大模型一體機”。軟通動力副總裁、數字基礎設施與集成副總經理劉雅、數字基礎設施與集成技術總監單繼嶺；百川智能政企事業群產研總經理李劍、政企事業群一體機負責人謝楠共同出席發布儀式。

作為自主創新的軟硬一體解決方案，該一體機基于昇騰AI基礎硬件平臺，預裝百川大模型能力，支持多輪對話、報告生成、內容生成、代碼生成、知識檢索、文本分類、API平臺、企業知識庫等多樣化功能，在許多復雜的客戶業務場景中，助力用戶實現大模型場景推理的“最后一公里”。

同方AI算力底座

軟通-百川大模型一體機基于昇騰AI硬件底座，具備高能效、高算力、高可靠、易管理、易擴展等優點，可按需選擇兩款硬件產品：超強K620和超強A800I A2，整合天鶴OS操作系統，廣泛應用于AI算法開發和AI推理服務的場景。核心優勢如下：

超強算力：

性能領先，加速AI推理效率，單臺推理服務器可達2.2 PFLOPS AI算力；

超高能效：

內置高算力AI芯片、高性能算子庫，支持多卡高速互聯、分布式存儲；

平滑擴展：

根據業務需要可以隨時擴展存儲、算力、服務器；

安全啟動：

一體機內網部署，數據不出機房，數據安全可靠，構建可信的起點。

百川基座大模型

軟通-百川大模型一體機基于全場景昇思MindSpore AI開發框架，預裝百川大模型、軟通天璇MaaS平臺，助力企業快速開展業務大模型場景推理，根據推理結果實現微調，提高模型預測的準確率;解決企業大模型快速部署上線、算力成本居高不下、數據安全擔憂等問題。

豐富的基座大模型：

內置了Baichuan2 3B、7B、13B、33B大模型參數，且支持192K長窗口，單次可輸入超35萬字,極致的Transformer計算工程優化;

搜索增強+知識庫：

基于搜索增強的企業知識庫與實時信息獲取,業界領先的Embedding model，稀疏檢索+向量檢索實現的多路召回能力,融合互聯網在線搜索和信息整合能力；

全生命周期服務：

安裝部署、模型部署、推理服務等全生命周期，提供優質高效技術服務。

隨著人工智能技術的不斷發展和普及，大模型一體機將在更多領域得到應用和推廣。未來，軟通動力將聯合華為、百川智能等伙伴繼續發揮優勢，不斷創新突破，為人工智能技術的發展和產業的繁榮做出更大的貢獻。

審核編輯：劉清