GPU漲的不僅是價格。

今年以來，直線上升的AIGC市場帶熱了GPU。TrendForce集邦咨詢表示，2023年AI服務器出貨量（包含搭載GPU、FPGA、ASIC等）出貨量預估近120萬臺，年增率近38%，AI芯片出貨量同步看漲，可望成長突破五成。

然而，供應短時間難以跟上需求的爆發。“一切都在等英偉達”，李平是某AI公司高管，他向記者透露，其公司在4月下單了服務器產品，但是因為服務器公司的GPU尚未到貨，至今沒有準確交貨期，“現在再簽服務器合同都是沒有違約條款，不簽貨期的，只能選擇等或者直接取消訂單”。

對 GPU 硬件或更好的加速器的需求從未如此之大，如果這種趨勢持續下去，當前的高需求可能會延續到不久的將來。就HPC領域而言，這一趨勢表明 GPU 未來將會變得昂貴且難以找到，除非是購買的數量足以直接向供應商購買。

GPU非常適合加速矩陣運算，通常這也是許多 HPC 應用程序的核心。它們提供 SIMD（單指令多數據）處理單元，可以加速復雜的并行數組操作。正如人們經常指出的那樣，HPCGPU 市場在一定程度上要歸功于規模大得多（約 7 倍）的游戲市場，它幫助支付了硬件成本，讓游戲玩家能夠飛越星系，同時允許科學家模擬星系。

加密貨幣市場改變了這種低端動態。就加密貨幣而言，游戲 GPU 非常擅長快速查找唯一數字并產生熱量。市場需求相當高，但由于加密市場的不斷發展，需求似乎正在下降。

在高端市場，情況就完全不同了。根據雅虎財經的一篇文章，Reports Insights 的一份報告預測：“受圖形處理器 (GPU) 科學模擬、數據分析和人工智能需求不斷增長的推動，全球圖形處理器 (GPU) 市場預計在 2022 年至2030 年期間復合年增長率為 33.5%。”

然而，對于 GPU 市場供應商來說，這是個好消息，對于最終用戶來說，LLM（大型語言模型，如 ChatGPT）的增長創造了對 GPU 的新需求，而嚴格意義上來說，GPU 并不屬于傳統 HPC 市場的一部分。

以 Inflection AI 為例，該公司正在開發一種名為“Pi”的“個人人工智能”聊天機器人。為了實現這一目標，該公司建造了一臺配備 22,000 個英偉達 H100 GPU 的超級計算機。為了提供一些背景信息，Frontier 是 6 月 23 日 TOP500 列表中排名第一的系統，擁有37,632 個 GPU。

Inflection AI 的情況并非獨一無二。SemiAnalysis報告的另外兩個數據點也支持同樣的趨勢。

“即使 OpenAI 也無法獲得足夠的 GPU，這嚴重阻礙了其近期路線圖。由于 GPU 短缺，OpenAI 無法部署其多模態模型。“

正在尋找 FLOPS？

幸運的是，GPU 對于 HPC 來說并不是必需的。然而，最新的 TOP500 系統統計表明，37% 的機器使用 GPU。這個數字正在增加，并且隨著系統進入 exaFLOPS 領域，加速器的使用將繼續。

如前所述，GPU 不是必需的，但對于許多 HPC 應用程序來說通常是可取的。由于生成式 AI 行業爆炸式增長的巨大需求，許多 HPC 現場采購和/或云場景的擔憂是GPU 的全面可用性（短缺）。“任何 GPU”（英偉達、AMD 或英特爾）的高市場需求可能會促使 HPC 從業者考慮僅使用 CPU 的解決方案來幫助加速其代碼（例如，眾核、AVX-512、HBM、3D V-Cache 等） 。

對“GPU 周期”的搜索也可能會帶來一些新穎的方法。回想一下，HPC 中的一些原始 GPU 應用程序始于標準 GPU 卡和一種名為“Brook ”的新語言，該語言是 CUDA 的前身，并在第一段中提到的一些早期 GPU 卡上運行。一開始，這種方法似乎有點“尷尬”，但速度的提高是不容忽視的，結果重塑了 HPC 領域。

最近，一個有趣的消息是，最新版本的 AMD ROCm GPU 庫(V5.6) 提供了對移動和桌面級 iGPU（集成 GPU）的支持。在LinkedIn 上的一篇簡短帖子中，HPC 專家 JamesCuff 能夠使用 Ryzen 9 6900HX 桌面處理器在CPU 和 CPU/iGPU 上運行 TensorFlow 基準測試。同樣的基準測試在 CPU 上運行需要 13 秒，在CPU/iGPU 組合上運行需要 3 秒。當然，還需要更多的測試，但正如對 FLOPS 的搜索將目光轉向了早期基于 GPU 的顯卡一樣，尋找內部 GPU 可能會為 HPC 組合添加一些未使用和可用的 FLOPS。GPU 的巨大壓力已經到來。

審核編輯：劉清