近日,云天勵飛正式加入 OISA 生態,攜手產業伙伴共同推動國產 AI 芯片互聯體系建設,為中國算力生態注入新的動力。
OISA(Omni-directional Intelligent Sensing Express Architecture)是由中國移動提出的開放互聯標準體系。
核心目標是打造一個全向、對等、智能的互聯新范式,使集群中任意AI芯片之間、AI芯片與CPU之間都能直接高速訪問彼此的內存,徹底解決智算集群中的內存互訪難題,為大規模并行計算提供堅實的技術基石。
隨著大模型,尤其是 MoE 架構大模型的爆發式增長和廣泛應用,算力需求正以前所未有的速度攀升。MoE 的特點在于每次推理只激活部分“專家”,但這些“專家”分布在不同芯片的存儲空間內,推理過程中需要跨芯片頻繁調用參數。
在這種場景下,單顆 AI 芯片性能的提升已無法滿足需求,真正的挑戰在于如何高效互聯成百上千顆 AI 芯片,確保跨芯片的數據訪問像本地一樣高效,從而將其協同為一個超級計算集群。因此,突破互聯技術的瓶頸,成為支撐萬億級 MoE 大模型推理的關鍵。
憑借在 AI 推理芯片與算力架構的長期積累,云天勵飛成為 OISA 生態的重要一員。
自 2014 年成立以來,公司持續深耕 AI 推理芯片與算力架構,首創“算力積木”架構,可讓算力像搭積木一樣靈活組合、擴展,滿足各類不同應用場景的需要。
當前,公司形成了 DeepEdge、DeepVerse、DeepXbot 等系列產品,覆蓋從邊緣終端到云端集群、從具身智能到大模型的多元場景。
加入 OISA 后,云天勵飛將在三方面貢獻力量。
技術優勢:依托“算力積木”架構的模塊化與可拓展性,在大規模推理集群中實現高效互聯,為包括 MoE 在內的超大模型突破 Scale up 瓶頸提供底層支撐;
生態共建:與 OISA 的開放互聯標準深度協同,聯合上下游伙伴打通芯片、系統、應用全鏈路,推動自主可控的國產算力生態發展;
應用落地:加速在智慧城市、智能駕駛、機器人、邊緣計算等關鍵領域的規模化實踐,讓“算力積木”真正成為 AI 推理產業化的基礎設施。
未來,云天勵飛將繼續秉持“AI 時代的加速器”愿景,持續迭代芯片技術與架構創新,攜手 OISA 生態伙伴,共同推動智能算力的創新與普及,讓下一代 AI 算力真正惠及千行百業。
-
AI
+關注
關注
91文章
39755瀏覽量
301350 -
云天勵飛
+關注
關注
0文章
182瀏覽量
12650 -
大模型
+關注
關注
2文章
3648瀏覽量
5177
原文標題:云天勵飛“算力積木”聯手OISA,突破萬億級MoE大模型推理集群的Scale up瓶頸
文章出處:【微信號:IntelliFusion2,微信公眾號:云天勵飛】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
云天勵飛正式加入OISA生態
評論