華為云正式推出基于華為云Stack混合云的DeepSeek本地部署方案。

2023年，華為云Stack推出了業(yè)界首個大模型混合云，除了支持盤古大模型外，也內(nèi)生集成了多個業(yè)界主流的基礎(chǔ)模型，實現(xiàn)開箱即用。憑借其強大的基礎(chǔ)設(shè)施、靈活的部署方式、一站式的開發(fā)工具和完善的安全體系，幫助企業(yè)快速本地化部署DeepSeek專屬大模型。

華為云Stack提供圖形化的第三方模型部署方案。用戶基于向?qū)讲僮鳎唵螏撞骄湍軐?DeepSeek模型快速部署到混合云環(huán)境中，無需復(fù)雜的前期準(zhǔn)備，降低部署門檻。目前已支持DeepSeek V3/R1等版本。

基于ModelArts AI開發(fā)平臺及昇騰深度優(yōu)化DeepSeek模型。在推理階段，采用算子融合等加速技術(shù)提升計算效率，結(jié)合分布式多卡并行與PD分離技術(shù)優(yōu)化模型性能，通過軟硬協(xié)同優(yōu)化，提升模型推理性能50%。

華為云Stack打造大模型安全運營中心，包括環(huán)境安全態(tài)勢感知、推理業(yè)務(wù)風(fēng)險運營等能力，快速發(fā)現(xiàn)外部攻擊并進(jìn)行響應(yīng)；同步打造網(wǎng)絡(luò)、數(shù)據(jù)、模型、內(nèi)容、應(yīng)用等七層防線，構(gòu)建包括超大規(guī)模的DDoS/Web攻擊過濾、數(shù)據(jù)及模型文件加密、Prompt攻擊過濾等關(guān)鍵能力，為DeepSeek模型本地化運行和數(shù)據(jù)的安全使用提供堅實保障。

華為云Stack的云邊協(xié)同架構(gòu)與DeepSeek模型蒸餾技術(shù)形成完美適配。支持將百億參數(shù)大模型壓縮為輕量級邊緣模型，實現(xiàn)模型在邊緣節(jié)點的高效部署。通過數(shù)據(jù)本地化處理機制保障數(shù)據(jù)不出域，結(jié)合邊緣計算實時響應(yīng)特性，顯著提升油氣、制造、礦山等行業(yè)的智能化落地效果。

基于各行業(yè)大模型的落地經(jīng)驗，為行業(yè)客戶提供40+大模型專業(yè)服務(wù)，覆蓋頂設(shè)咨詢、規(guī)劃部署、技術(shù)支持、適配調(diào)優(yōu)、應(yīng)用上線到運維運營的全生命周期。

與此同時，華為云Stack已經(jīng)支持30多個主流大模型，構(gòu)筑堅實的算力底座，使能百模千態(tài)，賦能千行萬業(yè)，我們將持續(xù)推動大模型技術(shù)在各個行業(yè)的應(yīng)用落地，賦能企業(yè)智能化升級，共創(chuàng)智能未來！