來源:硅基流動
今天,硅基流動聯(lián)合沐曦集成電路(上海)股份有限公司(簡稱“沐曦”),全球首發(fā)基于沐曦曦云 C550 集群的月之暗面 Kimi-K2 大模型商業(yè)化服務(wù)部署。該服務(wù)運行于匯天網(wǎng)絡(luò)科技有限公司(簡稱“匯天網(wǎng)絡(luò)”)運營的沐曦曦云C550 三千卡通用 GPU 國產(chǎn)集群。此次合作標(biāo)志著硅基流動正式將該國產(chǎn)集群納入算力網(wǎng)絡(luò),進一步為大模型產(chǎn)業(yè)落地提供充沛的高性能國產(chǎn)算力。
技術(shù)突破層面,三方通過芯片層、框架層、模型層的深度協(xié)同優(yōu)化,顯著提升了 Kimi-K2 在曦云 C550 集群上的推理效率。沐曦自主研發(fā)的曦云 C550 通用 GPU 為模型提供了高性能、高穩(wěn)定的核心硬件支撐,可以大幅增加集群算力,縮短大模型計算及推理時間;硅基流動將曦云 C550 集群接入一站式算力納管平臺,豐富了算力資源,并依托自研推理加速引擎,將集群利用率提升至業(yè)界領(lǐng)先水平,最終在其大模型云服務(wù)平臺提供金融級高可靠性、高速響應(yīng)、高性價比的 Kimi-K2 推理服務(wù)。
此次落地在匯天網(wǎng)絡(luò)的沐曦國產(chǎn) GPU 集群,是華北地區(qū)首個專為大模型規(guī)模化商用設(shè)計的高性能算力基礎(chǔ)設(shè)施。該集群納入硅基流動大模型云服務(wù)平臺后,將重點服務(wù)于金融、政務(wù)、教育、科研等領(lǐng)域的頭部客戶,提供企業(yè)級 AI 推理部署解決方案。
下一步,硅基流動、匯天網(wǎng)絡(luò)與沐曦三方將圍繞"北京國產(chǎn)萬卡集群"建設(shè)目標(biāo),持續(xù)推進集群硬件擴容與綠色 AIDC 技術(shù)研發(fā)。同時,三方將深化與國內(nèi)主流大模型企業(yè)的生態(tài)合作,通過"算力-算法-應(yīng)用"的全鏈路協(xié)同創(chuàng)新,突破產(chǎn)業(yè)鏈應(yīng)用瓶頸,助力“國產(chǎn)算力+大模型產(chǎn)業(yè)”實現(xiàn)從技術(shù)突破到商業(yè)化落地的跨越式發(fā)展。
關(guān)于沐曦
沐曦致力于自主研發(fā)全棧高性能GPU芯片及計算平臺,為智算、通用計算、云渲染等前沿領(lǐng)域提供高能效、高通用性的算力支撐,助力數(shù)字經(jīng)濟發(fā)展。
-
集成電路
+關(guān)注
關(guān)注
5452文章
12556瀏覽量
374229 -
沐曦
+關(guān)注
關(guān)注
1文章
73瀏覽量
1797 -
大模型
+關(guān)注
關(guān)注
2文章
3621瀏覽量
5141
原文標(biāo)題:硅基流動聯(lián)合沐曦首發(fā)基于曦云的 Kimi K2 推理服務(wù),落地匯天網(wǎng)絡(luò)北京國產(chǎn) GPU 智算集群
文章出處:【微信號:沐曦MetaX,微信公眾號:沐曦MetaX】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
曦云C系列GPU Day 0 適配智譜全新一代大模型GLM-5
沐曦曦云C500/C550 GPU產(chǎn)品適配智譜GLM-OCR模型
沐曦曦云C600 GPU產(chǎn)品適配階躍星辰基座模型Step 3.5 Flash
沐曦曦云C500/C550 GPU產(chǎn)品適配騰訊混元圖像3.0圖生圖模型
沐曦曦云C500/C550 GPU產(chǎn)品適配PaddleOCR-VL-1.5模型
沐曦股份正式推出曦索X系列全新GPU品牌與產(chǎn)品線
沐曦股份曦云C系列GPU Day 0適配智譜GLM-4.6V多模態(tài)大模型
DLInfer聯(lián)手沐曦股份實現(xiàn)數(shù)據(jù)生成場景的實際落地
沐曦股份與上海電信完成首期GPU生態(tài)專家認證培訓(xùn)
首款全國產(chǎn)通用GPU芯片發(fā)布 沐曦集成推出曦云C600
沐曦曦云C系列產(chǎn)品已支持TileLang
硅基流動攜手沐曦首發(fā)基于曦云的Kimi K2推理服務(wù)
評論