據Digitimes報道,因NVIDIA H100 GPU廣泛應用于人工智能計算,造成其供需失衡。如今,根據臺灣地區總經理Terence Liao介紹,近期該產品交貨周期已大幅度縮短,由原先的3-4個月縮減為當前的2-3個月(即8-12周)。同時,服務器制造商也證實,相較于2023年幾乎無法購買到H100的狀況,目前供應緊張局面正逐漸得到緩解。
盡管交貨周期有所縮短,Liao強調,人工智能硬件市場需求依然強勁。盡管價格較高,但人工智能服務器的采購量正在超過普通服務器。他指出,過長的交付周期是導致需求看似持續增長的主因。
值得關注的是,目前2-3個月的交貨周期已是NVIDIA H100 GPU歷史最短紀錄。僅在半年前,等待期還長達11個月,大部分客戶需等待近一年才能獲得所需的人工智能GPU。
自2024年初起,H100 GPU交貨周期持續明顯縮短。今年初,等待期已由數月縮短至3-4個月;現今再度縮短一個月。按照此趨勢,預計今年底或更早,無需再等待。
部分原因可能源于部分公司持有過多的H100 GPU庫存,并選擇出售以降低庫存維護成本。此外,亞馬遜云科技(AWS)提供云端租賃服務,使得用戶能夠更加便捷地使用H100 GPU,從而緩解了部分需求壓力。
現階段,僅有少數大型企業如OpenAI等仍受供應限制影響,因其正在開發自身的大型語言模型(LLM)。由于此類模型訓練需大量GPU支持,故這些企業仍面臨供應難題。
-
gpu
+關注
關注
28文章
5198瀏覽量
135522 -
服務器
+關注
關注
14文章
10264瀏覽量
91528 -
人工智能
+關注
關注
1817文章
50108瀏覽量
265561
發布評論請先 登錄
英偉達 Q3 狂攬 308 億
亞馬遜:調用訂單退款API自動化處理售后請求,縮短用戶等待時間
英偉達 H100 GPU 掉卡?做好這五點,讓算力穩如泰山!
英偉達被傳暫停生產H20芯片 外交部回應
傳英偉達自研HBM基礎裸片
搞定英偉達 H100 ECC 報錯:從原理到維修,一步到位解煩憂
H20中國區賣爆!英偉達緊急向臺積電加訂30萬塊
英偉達獲美批準恢復H20在華銷售,同步推出全新兼容GPU
英偉達黃仁勛:將向中國市場銷售H20芯片 中國市場至關重要
今日看點丨英偉達將為中國市場推出新AI芯片 售價大幅低于H20;中科曙光與海光信息宣布戰略重組
GPU 維修干貨 | 英偉達 GPU H100 常見故障有哪些?
英偉達H100 GPU交貨等待時間大幅縮短
評論