電子發(fā)燒友網(wǎng)報道（文 / 吳子鵬）當(dāng)?shù)貢r間 7 月 3 日，人工智能芯片龍頭英偉達(dá)股價表現(xiàn)亮眼，盤中一度漲超 2%，觸及 160.98 美元的歷史新高，市值隨之突破 3.92 萬億美元。雖然當(dāng)天未突破 4 萬億美元市值，但 3.92 萬億美元已是有史以來全球科技公司的最高市值。有分析人士認(rèn)為，英偉達(dá)必將正式加冕為歷史上市值最高的公司。

除了股市表現(xiàn)亮眼，英偉達(dá) GB300 服務(wù)器也傳來新消息。同樣在 7 月 3 日，美國 CoreWeave 公司在官網(wǎng)宣布，已收到市場上首個基于英偉達(dá)最新高端芯片的人工智能服務(wù)器系統(tǒng)。

隨后，戴爾公司專門發(fā)布新聞稿對此事進(jìn)行說明，英偉達(dá)公司也在社交媒體上確認(rèn)了這一事件。

AI 服務(wù)器發(fā)展的里程碑

據(jù)介紹，CoreWeave 此次部署的是基于 PowerEdge XE9712 服務(wù)器的戴爾集成機(jī)架可擴(kuò)展系統(tǒng)，因此戴爾公司在 GB300 服務(wù)器出貨方面拔得頭籌。

PowerEdge XE9712 服務(wù)器是戴爾公司基于 Nvidia GB300 NVL72、專門為推理任務(wù)設(shè)計的 AI 服務(wù)器，具備高效能、高密度加速技術(shù)，能提供 50 倍的 AI 推理輸出并提升 5 倍的吞吐量，適用于大規(guī)模 AI 部署的 LLM 訓(xùn)練和即時推論。戴爾公司總結(jié)了 PowerEdge XE9712 服務(wù)器的幾大優(yōu)勢：
·通過 NVIDIA GB300 NVL72 GPU，為 AI 部署提供高性能、高密度加速。
·采用液冷技術(shù)，實現(xiàn)節(jié)能運行。
·具備實時萬億參數(shù) LLM 推理能力，增強大規(guī)模 AI 模型訓(xùn)練。

由此可見，PowerEdge XE9712 服務(wù)器包含三大關(guān)鍵技術(shù)：GB300 芯片、NVL72 系統(tǒng)和液冷技術(shù)。其中，GB300 芯片是英偉達(dá)于 2025 年 3 月 18 日 GTC 大會上發(fā)布的新一代 AI 芯片，基于 Blackwell Ultra 架構(gòu)，定位為高性能計算與 AI 推理的旗艦產(chǎn)品。作為前沿架構(gòu)，NVIDIA Blackwell 架構(gòu) GPU 擁有 2080 億個晶體管，采用專門定制的臺積電 4NP 工藝制造。所有 NVIDIA Blackwell 產(chǎn)品均采用雙倍光刻極限尺寸的裸片，通過 10TB/s 的片間互聯(lián)技術(shù)連接成一塊統(tǒng)一的 GPU。

NVIDIA NVLink 交換機(jī)芯片可在包含 72 個 GPU 的 NVLink 域（NVL72）中實現(xiàn) 130TB/s 的 GPU 帶寬，并通過 NVIDIA SHARP?技術(shù)對 FP8 的支持，實現(xiàn) 4 倍于原來的帶寬效率。此外，NVIDIA NVLink 交換機(jī)芯片能以 1.8TB/s 的驚人互連速度為多服務(wù)器集群提供支持。采用 NVLink 的多服務(wù)器集群可在計算量增加時同步擴(kuò)展 GPU 通信，因此 NVL72 支持的 GPU 吞吐量是單個 8 卡 GPU 系統(tǒng)的 9 倍。GB300 NVL72 集成了 72 個 Blackwell Ultra GPU 和 36 個基于 Arm Neoverse 架構(gòu)的 NVIDIA Grace CPU，理論算力可達(dá) 1 萬億次浮點運算 / 秒。GB300 NVL72 還計劃在 DGX Cloud 上推出，將通過軟件、服務(wù)和 AI 專業(yè)知識優(yōu)化性能，以應(yīng)對不斷變化的工作負(fù)載。與英偉達(dá)上一代 Hopper 架構(gòu)相比，GB300 NVL72 的用戶響應(yīng)速度提升 10 倍，每瓦吞吐量提高 5 倍，推理模型的推理輸出增加 50 倍。

戴爾在介紹 PowerEdge 服務(wù)器時表示，其液冷服務(wù)器采用創(chuàng)新的直接芯片冷卻技術(shù)，最多可支持 192 個 Nvidia Blackwell Ultra GPU。

除 PowerEdge XE9712 服務(wù)器外，戴爾與英偉達(dá)的合作還涵蓋風(fēng)冷 PowerEdge XE9780 和 XE9785 服務(wù)器，以及液冷版本的 XE9780L 和 XE9785L 服務(wù)器。分析人士認(rèn)為，首發(fā)設(shè)備交付給 CoreWeave 這一情況，凸顯出英偉達(dá)愈發(fā)專注于向企業(yè)出租強大計算能力的戰(zhàn)略，這些企業(yè)需要高性能的英偉達(dá)芯片來訓(xùn)練和運行 AI 軟件。

綜上，GB300 服務(wù)器出貨具有諸多重要意義，是 AI 服務(wù)器行業(yè)發(fā)展的里程碑事件。作為行業(yè)首款達(dá)到 ExaFLOPS 級別的算力設(shè)備，它將超算級算力帶入企業(yè)級應(yīng)用場景，重新定義了 AI 推理的效率標(biāo)準(zhǔn)，賦能代理式 AI 的工業(yè)化落地、物理模擬的實時化突破以及多模型推理的規(guī)模化協(xié)同等核心場景。

GB200 放量，GB300 接班

去年 12 月，摩根士丹利（MS）在研究簡報中指出，供應(yīng)鏈調(diào)查顯示，銅纜連接器的問題已通過機(jī)柜重新設(shè)計解決，首批 GB200 已進(jìn)入最終測試階段，并于 12 月正常發(fā)貨。目前，各大服務(wù)器廠商多次提及 GB200 服務(wù)器已實現(xiàn)規(guī)模化放量。以鴻海精密為例，根據(jù)該公司一季度財報，2025 年一季度其 AI 服務(wù)器收入占比提升至 50%，這主要得益于 3 月底 GB200 的大規(guī)模量產(chǎn)。管理層預(yù)計二季度 AI 服務(wù)器收入環(huán)比翻倍，全年目標(biāo)機(jī)柜出貨超 3 萬臺，其中 GB200/GB300 NVL72 約 1 萬臺。

據(jù)統(tǒng)計數(shù)據(jù)顯示，得益于 AIGC 技術(shù)的快速迭代，2024 年全球加大了對 AI 算力基礎(chǔ)設(shè)施的投資，全球服務(wù)器市場規(guī)模達(dá)到 2164.0 億美元。預(yù)計 2023-2028 年，該市場將以 18.8% 的年復(fù)合增長率保持高速增長，2028 年市場規(guī)模將達(dá) 3328.7 億美元，其中 AI 服務(wù)器將占據(jù)近 7 成市場份額。

從采購額來看，2024 年超大規(guī)模云服務(wù)提供商和企業(yè)客戶均在加大對 AI 服務(wù)器的資源投入，成為服務(wù)器市場增長的主力。美系四大 CSP 業(yè)者（Microsoft、Google、AWS、Meta）在全球需求中的占比分別達(dá) 20.2%、16.6%、16% 及 10.8%，合計超過 6 成，處于全球領(lǐng)先位置。而這些廠商均對英偉達(dá) GB200 服務(wù)器和 GB300 服務(wù)器有著濃厚興趣和廣泛需求。

TrendForce 集邦咨詢此前表示，目前供應(yīng)鏈對 NVIDIA GB200 寄予厚望，預(yù)估 2025 年其出貨量有望突破百萬顆，占 NVIDIA 高端 GPU 的近 4-5 成。在 GB200 服務(wù)器的客戶群中，微軟表現(xiàn)最為活躍。2024 年第四季度，微軟采購 GB200 服務(wù)器的訂單激增 3-4 倍，超過所有其他云服務(wù)商（CSP）的總和。此外，為全面提升 AI 工具的性能，微軟將 GB200 訂單從之前的 300-500 個機(jī)架增至約 1400-1500 個機(jī)架，其中約 70% 為 NVL72 型號。

GB300 預(yù)計將在第四季度開始真正放量。除戴爾外，其他服務(wù)器廠商也在抓緊推動 GB300 服務(wù)器出貨。廣達(dá)電腦資深副總暨云達(dá)總經(jīng)理楊麒令表示，GB300 目前按計劃推進(jìn)，正在測試并與客戶進(jìn)行驗證，預(yù)計 9 月出貨。此前有傳聞稱，GB300 服務(wù)器可能會讓 GB200 服務(wù)器成為 “短命版” 旗艦級服務(wù)器，但從目前廠商的規(guī)劃來看，兩者之間的升級仍按部就班地進(jìn)行。

值得注意的是，GB300 服務(wù)器正式出貨后，將帶動 1.6T 光模塊上量。GB300 的超級芯片集群設(shè)計對跨機(jī)柜數(shù)據(jù)傳輸提出嚴(yán)苛要求，因此跨機(jī)柜互聯(lián)需依賴 1.6T 光模塊實現(xiàn) TB 級數(shù)據(jù)傳輸。另外，1.6T 光模塊不僅傳輸速率較 800G 提升 2 倍，功耗也降低 40%，能適配 AI 訓(xùn)練與推理需求。有分析人士稱，GB300 服務(wù)器將加速 1.6T 光模塊的滲透率，2025 年全球需求或達(dá)百萬只級，頭部廠商正通過擴(kuò)產(chǎn)來應(yīng)對這一需求。

結(jié)語

GB300 服務(wù)器的正式出貨，不僅標(biāo)志著英偉達(dá)在 AI 算力領(lǐng)域的又一次突破，更掀開了全球 AI 基礎(chǔ)設(shè)施升級的新篇章。作為行業(yè)首款達(dá)到 ExaFLOPS 級別的企業(yè)級算力設(shè)備，GB300 NVL72 系統(tǒng)通過 72 顆 Blackwell Ultra GPU 與 36 顆 Grace CPU 的超大規(guī)模集成，將單機(jī)架算力推向 1 萬億次浮點運算 / 秒的巔峰。