在華為全聯接大會2025期間,華為昇騰計算業務總裁張迪煊發表了“以開發者為中心,加速自主創新,共贏昇騰生態”的主題演講,宣布CANN技術指導委員會正式成立,并表示昇騰將持續聚焦開發者訴求,圍繞昇騰的開放性、易用性和兼容性進行架構升級,并分層解耦、全面開源開放,加速開發者創新。
堅持軟件開源開放,讓開發者用好昇騰
昇騰堅持基礎軟件開源開放,與業界共創,為了匹配開發者習慣,昇騰與業界開源社區和開源項目展開深度合作,如Triton、PyTorch、vLLM、verl等,并會將新的功能和特性開源到社區,讓開發者可以第一時間獲取到最新技術。
昇騰通過分層解耦,以支持開發者從模型、算子、內核以及底層資源按需調用。開源底層Runtime能力,開發者可以細粒度調用硬件資源,充分挖掘硬件性能,滿足發燒友的極致的需求。在下一代產品,昇騰將同時支持SIMD+SIMT的編程方式,滿足不同場景的開發需求。
在加速庫能力上,昇騰開源共建昇騰親和加速庫,支撐開發者即取即用。張迪煊表示:“9月底,我們將開源共享內存能力Share Memory,在超節點范圍內的所有片上內存可實現資源池化共享,較傳統以太網,通信時延大幅降低。”
當前,產學研界在積極探索低精度計算。昇騰創新了HiF8的數據格式并捐獻給了全球計算聯盟(GCC)。HiF8在傳統浮點格式中引入動態點位域,實現指數和尾數的長度靈活可變,精度和位寬更符合實際數據特征,在相同精度下,可覆蓋更大的數值表達范圍,接近FP16,避免數值溢出。
業界對于推理吞吐和時延的探索永無止境。昇騰將Attention和FFN分離部署,在Attention階段,由于權重數據并不大,內存能放下更多KV-Cache,所以可以輸入更大的BatchSize、更長的Sequence;在FFN階段,更大的BatchSize也可以充分發揮算力優勢,提升整體MFU。基于這種“以通信換內存”的AF分離設計,實現Decode推理吞吐提升50%以上。
本次大會上,CANN技術指導委員會正式成立。張迪煊表示:“9月底,CANN全量算子將開源到GitCode社區,12月領域加速庫、圖計算、Ascend C、MindIE等軟件代碼也會陸續上倉,完成昇騰軟件全量開源,全球共享,共同定義技術標準和發展方向。我們還將每年投入1500P算力和3萬開發板,與全球開發者共創、共享昇騰開源生態。”
硬件開放,共筑全場景堅實算力底座
昇騰堅持硬件開放,基于開放的模組和標卡,使能伙伴打造了200多款硬件產品,滿足各場景差異化需求。張迪煊指出:“9月昇騰上市了大模型推理標卡,支撐伙伴打造場景化的大模型應用一體機。明年,我們將新上市Atlas 350標卡、Atlas 550模組和刀片,使能伙伴基于昇騰打造更具競爭力的服務器及超節點,共同構筑堅實的算力底座。”
使能伙伴打造場景化解決方案,加速千行萬業走深向實
硬件是基礎,應用是關鍵,昇騰致力于聯合軟件伙伴打造場景化方案。華為提供高性能的算力平臺,并聯合大模型伙伴和開源社區,提供昇騰親和的開源模型和工具,使能伙伴匹配場景開發行業應用。
面向行業,昇騰與伙伴聯合定義場景、開發方案、并協同上市、共同拓展,當前昇騰正在聯合20多個ISV,面向金融、能源、制造、教育及醫療等行業,打造了信貸報告、電子病例、電力調度、網絡安全、教學助手等場景方案。昇騰也將聯合伙伴逐步從國內走向海外,提供全球市場拓展支持,共贏全球智能化機遇。
以最新技術培養人才,以創新人才引領產業
人才是創新的源泉。2020年華為聯合教育部打造智能基座,把昇騰課程引入高校,加強人工智能的普適教學。去年,昇騰聯合國內頭部高校,成立了鯤鵬昇騰科教創新的卓越中心和孵化中心,探索高價值科研課題。
開源,不止于代碼;開放,不止于態度;開創,更不止于探索。昇騰將持續創新引領,與全球開發者共建、共享、共贏昇騰生態。
-
華為
+關注
關注
218文章
36003瀏覽量
262078 -
開源
+關注
關注
3文章
4203瀏覽量
46122 -
昇騰
+關注
關注
1文章
181瀏覽量
7416
原文標題:全面開源開放,共贏昇騰生態
文章出處:【微信號:huaweicorp,微信公眾號:華為】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
2025華為開發者大賽暨開發者年度會議成功舉辦
開發者指南 | 華為昇騰Ascend310B啟動鏡像制作與燒寫全攻略
華為發布全球最強算力超節點和集群
華為攜手共贏萬物互聯的智能時代
迅龍軟件參加昇騰 AI?開發者創享日?廣東站,為開發者打造沉浸式實操體驗
聚力創芯 生態共贏 | 芯海科技BMS產業應用開發者大會圓滿召開
共建共享鴻蒙新世界 | 拓維信息攜開鴻智谷亮相華為開發者大會2025
華為開發者大會2025(HDC 2025)亮點:華為云發布盤古大模型5.5 宣布新一代昇騰AI云服務上線
潤和軟件亮相鯤鵬昇騰開發者大會2025
長城汽車亮相2025華為鯤鵬昇騰開發者大會
高鴻信安亮相2025華為鯤鵬昇騰開發者大會
華為鯤鵬昇騰開發者大會2025:鯤鵬昇騰深度開放,加速創新者創新
迅龍軟件攜多個AI產品參加鯤鵬昇騰開發者大會,重磅發布新品OrangePi AImax
2025昇騰AI開發者創享日浙江站成功舉辦,現場演示OrangePi AIpro(20T)部署DeepSeek模型開發全流程
華為與全球開發者共贏昇騰生態
評論