在今天，一個中國AI大模型想要完成從訓練到推理的過程，需要在算力之路上走過九九八十一難。

首先，它會面臨英偉達算力卡被禁售、被降級的持續尷尬，算力獲取極其昂貴且困難；接下來，它將面臨模型參數過大，單卡算力無法支持，需要集群式算力的難題；再進一步，大規模AI計算集群故障頻繁，恢復緩慢，極大拖延了訓練效率；在推理環節，大模型還需要提升分布式推理能力，提升應用競爭力。

大模型們就像一枚枚棋子。它們在算法層面勇往直前，腳下卻沒有屬于自己的算力棋盤。即使如此，這片土地依舊涌現出了耀眼奪目的大模型創新。但我們也不禁會想，如果擁有堅實有力，且沒有外部風險的AI算力底座，AI技術的可能性又將被如何書寫？

在HDC 2025，我看到了解答這個問題的方法。華為常務董事、華為云計算CEO張平安宣布基于CloudMatrix384超節點的新一代昇騰AI云服務全面上線，為大模型應用提供澎湃算力。

基于CloudMatrix384超節點的新一代昇騰AI云服務，本質上是對固化的AI算力形態進行了改變。它改變了以單卡為中心的AI算力供應模式，直擊了中國AI算力自主化的需求，并找到了云服務這種最契合大模型推訓的算力獲取方式。

384個AI計算單元，連成了一片“龍鱗”，透過它的反光，看到的是中國AI算力用技術改變規則的能力和決心。

讓我們沿著新一代昇騰AI云服務從發現困局，再到技術破局，進而到云服務閉環與賦能行業應用落地的邏輯，去看看AI算力的八十一難，如何變得蕩然無存。

從深度學習技術興起，AI算力作為一種專項需求被提出，產學各界預言了中國的AI算力需求必然會呈現出巨大矛盾。這種矛盾在大模型時代得到了史無前例的爆發。

一邊是中國AI產業在算法、應用側的創新層出不窮，AI在社會經濟中扮演的地位愈發重要；另一邊是我們始終沒有筑起自己的AI算力底座，算力獲取嚴重依賴外部供應。這種供應形態發展到一定程度，就必然會形成體系軟肋與發展局限。就像把自己的AI棋子，放在別人的算力棋盤上，當其他人想要掀翻棋盤的時候，我們可能沒有任何辦法，當我們有了更多棋子，原有的棋盤可能也擺不下。

從過去、現在、未來的三重要素看，中國AI算力都必須走出一條自己的新路來。

1.來自過去的困局：AI算力的外部限制。

自1996年《瓦森納協定》簽訂以來，美國長期主導了對中國的芯片出口限制。AI時代到來后，AI算力成為科技鐵幕的核心焦點。近幾年，美國持續加碼對中國的AI算力限制，曾經占據中國AI算力市場份額超過95%的英偉達GPU，不斷在被禁與推出閹割版的徘徊中游蕩。這讓難獲取與昂貴，成了AI算力的代名詞。

2.來自今天的挑戰：大模型崛起帶來的算力需求。

把目光放到中國市場本身，會發現算力矛盾依舊突出。伴隨著DeepSeek為代表的國產大模型崛起，以及AI Agent等應用爆發。中國大模型需要更加強大的訓練推理能力作為支撐已成定局。

比如說，AI Agent的技術邏輯是大模型決策再調用外部工具進行處理，這個國產時延考驗。想要讓AI Agent真正走向大規模應用，就需要CPU與NPU之間強大的高速通信能力。這些算力的實現，直接決定著AI應用的發展。

3.來自未來的焦慮：為AGI未雨綢繆。

更為關鍵的是，AI大模型還在快速發展。未來我們可能會迎來訓練參數量達到百萬億的大模型，這將導致AI算力需求也被百萬倍提升。與此同時，自動駕駛、元宇宙等方向的不斷創新，讓復雜的多元融合計算逐漸成為主流。我們必須讓算力底座預先發展，才能支撐起關于未來近乎無盡的AI想象力。

想要解決這些困境，我們會發現一個核心點在于，依賴外部供應的AI算力單卡絕不可取。必須將算力資源進行集群化、系統化的整合建設，用整體優勢消弭個體劣勢，才是中國AI算力的取勝之道。

當然，想要實現這個目標技術難度是超乎想象的，好在我們也進行了充分的準備。比如華為在網絡方面的數十年積累，可以打破大規模集群式計算的通信瓶頸；昇騰的持續建設，為自主化AI算力提供了支撐；華為云在大規模算力服務提供與下一代云基礎設施平臺的積累，為打造超節點提供了能力底座。

這些要素融合在一起，讓華為有機會打破傳統的馮諾依曼架構，實現“一切可池化”“一切皆對等”“一切可組合”的CloudMatrix384超節點，進而將其通過云服務落地千行萬業。

AI算力的多重困局，由此找到了從底層改寫規則的可能。

想要破局單卡為中心的AI算力困局，就需要向多卡集群方向努力。

用集約式計算提升算力資源利用率，搭建更符合大規模計算需求的超節點。這些思路在業界一直存在，但CloudMatrix384超節點的不同之處在于，其通過計算、存儲、網絡等諸多技術的協同創新，加上對傳統計算架構的徹底顛覆，實現了“最強AI服務器”的打造。

CoudMatrix384是將384個昇騰NPU和192個鯤鵬CPU，通過高速網絡互聯總線連接起來，組成了一臺384卡的AI計算機。中國文化講求“合”的力量，這種文化基因在CloudMatrix384有著充分的展現。借用集約式計算的形式，CloudMatrix384超越了硬件與芯片工藝的限制，同時通過軟硬協同、池化架構和動態算力調配，實現了有效算力的大幅提升。根據相關數據，CloudMatrix384能夠實現300PFlops的算力規模，相比英偉達NVL72提升67%。它的出現能夠從底層技術上解決一系列迫在眉睫的算力技術難題，比如說：

1.分布式推理需求如何滿足？

在DeepSeek爆火之后，MoE模型混合專家大模型成為主流。而混合專家模型的一大特點就是十分考驗計算集群的分布式推理能力。CloudMatrix384可以通過超節點的分布式推理引擎，大幅提升單卡的計算與通信效率。單卡吞吐量能夠較非超節點提升近4倍，躍升至2300Tokens/s，并支持“一卡一算力任務”，將算力有效使用率（MFU）提升50%以上，并且超節點可以實現MoE模型的“一卡一專家”，一個超節點可以支持384個專家并行推理，極大提升效率。

2.集群規模如何突破？

伴隨著大模型的發展，業界對AI算力的需求正在不斷擴大，開始呈現出萬卡集群向五萬卡、十萬卡的趨勢發展。滿足對AI算力規模的需求，是超節點的當務之急。

為此CloudMatrix384通過MatrixLink全對等互聯，構建了高速智能網，再加上集群智能調度能力，保障了計算機群的性能無損，實現萬卡集群線性度高于95%。在此基礎上，CloudMatrix384最高可以將432個超節點進行級聯，形成16萬卡的AI計算集群，提供10萬PFlops級別的算力，從而滿足萬億級別的模型訓練。由此一來，CloudMatrix384成功大幅打破了最大規模計算集群的邊界，充分滿足未來很長一段時間內的大模型演化。

3.計算資源如何實現最優？

對于一線AI開發者與行業智能化用戶來說，AI算力的問題不僅在于稀缺，還在于浪費多、效率低以及運維復雜。為了能夠實現將每一比特AI算力都投入到有效的任務處理中，CloudMatrix384可以支持針對不同推訓場景，按邏輯超節點來劃分資源，從而實現像搭積木一樣給AI任務分配算力，讓算力資源“一切可組合”，意味著用戶的所有資源投入都得到充分發揮。

除此之外，CloudMatrix384超節點還支持40天長穩訓練，10分鐘快速恢復。讓大模型推訓過程中的種種卡點、堵點一掃而空。

在此之前，張平安提出：“CloudMatrix384超節點標志著算力競爭從單點技術突破走向系統架構創新。通過對復雜技術與資源的整合與協同，匹配全面智能時代的企業創新需求，并引領中國 AI產業生態的全面進步?！?/strong>