HBM即高帶寬內存，是一款新型的CPU/GPU內存芯片。如果說傳統的DDR就是采用的"平房設計"方式，那么HBM則是采用"樓房設計"方式。

目前，HBM產品以HBM（第一代）、HBM2（第二代）、HBM2E（第三代）、HBM3（第四代）、HBM3E（第五代）的順序開發。

可以看到，HBM每一次更新迭代都會伴隨著處理速度的提高。

HBM3自2022年1月誕生，便憑借其獨特的2.5D/3D內存架構，迅速成為高性能計算領域的翹楚。HBM3不僅繼承了前代產品的優秀特性，更在技術上取得了顯著的突破。它采用了高達1024位的數據路徑，并以驚人的6.4 Gb/s的速率運行，實現了高達819 Gb/s的帶寬，為高性能計算提供了強大的支持。

而今，SK海力士、美光等廠商將這一標準再度提升，HBM3E一經問世便迅速贏得市場的熱烈追捧。

01三大存儲巨頭的HBM3E技術特點
HBM3E技術的主要引領者依然是美光、SK海力士與三星這三大巨頭，它們繼續在這一領域發揮重要作用，共同推動著技術的創新與進步。以下是這三大廠商在HBM3E技術方面的精彩呈現。

SK海力士-獨創的MR-MUF技術等

2023年8月21日，SK海力士宣布成功開發出面向AI的超高性能DRAM新產品HBM3E，并開始向客戶提供樣品進行性能驗證。

據悉，SK海力士采用了先進的MR-MUF（Molding with Rubberand UFP）技術，使得HBM3E的散熱性能比上一代產品提高10%。這種技術通過在半導體芯片堆疊后的空間中注入液體形態的保護材料并進行固化，與每堆疊一個芯片時鋪上薄膜型材料的方式相較，工藝效率更高，散熱方面也更加有效；其HBM3E的最高數據處理速度可達每秒1.18TB（太字節），這意味著它能夠在極短的時間內處理大量數據。相當于在1秒內處理230部全高清（FHD）級別的電影。

另外，其HBM3E提供高達8Gbps的傳輸速度，這是相較于前一代HBM3的顯著提升。這種高速度對于需要快速數據處理的應用場景，如高性能計算和人工智能，尤為重要。

美光-1β、先進的硅通孔（TSV）技術等

2023年9月，SK 海力士的 HBM3E 內存迎來新競爭對手-美光。

美光也利用其 1β（1-beta）技術、先進的硅通孔（TSV）和其他實現差異化封裝解決方案的創新技術開發出業界領先的 HBM3E 設計。

憑借其卓越的性能、出色的能效等優勢，美光的HBM3E收獲內存市場的諸多青睞。比如美光 HBM3E 引腳速率超過 9.2Gb/s，提供超過 1.2TB/s 的內存帶寬，助力人工智能加速器、超級計算機和數據中心實現超高速的數據訪問；美光 HBM3E 目前提供 24 GB 容量，使數據中心能夠無縫擴展其人工智能應用。無論是用于訓練海量神經網絡還是加速推理任務，美光的解決方案都提供了必要的內存帶寬。

三星-先進的熱壓非導電薄膜技術等

三星也一直在致力于提供更為優秀的產品以滿足人工智能時代對高性能和大容量解決方案的更高要求。

2023年10月21日，三星在其一年一度的“存儲器技術日”活動中，發布了名為“Shinebolt”的新一代HBM3E DRAM。

三星Shinebolt支持新一代AI應用，可提高總體擁有成本，加速數據中心的AI模型訓練和推理。HBM3E的每個引腳速度高達9.8Gbps，這意味著整體傳輸速率可超過1.2TBps。為實現更高的堆疊層數并改善熱特性，三星優化了非導電薄膜(NCF)技術，以消除芯片層之間的間隙并盡可能提高導熱性。

2024年2月，三星成功發布其首款12層堆疊HBM3E DRAM——HBM3E 12H，這是三星目前為止容量最大的HBM產品。

三星HBM3E 12H支持全天候最高帶寬達1280GB/s，產品容量也達到了36GB。相比三星8層堆疊的HBM3 8H，HBM3E 12H在帶寬和容量上大幅提升超過50%。

HBM3E 12H采用了先進的熱壓非導電薄膜（TC NCF）技術，使得12層和8層堆疊產品的高度保持一致，以滿足當前HBM封裝的要求。HBM3E 12H產品的垂直密度比其HBM3 8H產品提高了20%以上。三星先進的熱壓非導電薄膜技術還通過允許在芯片之間使用不同尺寸的凸塊（bump）改善HBM的熱性能。

相比HBM3 8H，HBM3E 12H搭載于人工智能應用后，預計人工智能訓練平均速度可提升34%，同時推理服務用戶數量也可增加超過11.5倍。

02各家的量產進度

2024年3月19日，SK海力士宣布，公司率先成功量產超高性能用于AI的存儲器新產品HBM3E，將在3月末開始向客戶供貨。

SK海力士作為全球首家推出HBM3E的供應商，自去年8月宣布開發計劃至今，僅用了短短七個月時間便實現了量產。據悉，SK海力士的首批HBM3E產品將按照預定計劃準時交付給英偉達。

2024 年 2 月 26 日，美光宣布開始量產其 HBM3E 高帶寬內存解決方案。據悉，英偉達 H200 Tensor Core GPU 將采用美光 8 層堆疊的 24GB 容量 HBM3E 內存，并于 2024 年第二季度開始出貨。

目前，三星已開始向客戶提供HBM3E 12H樣品，預計于今年下半年開始大規模量產。

03競購HBM3E，英偉達既要又要還要隨著AI服務器的流行，AI加速卡的需求也呈現出強勁的增長勢頭。而作為AI加速卡的重要組成部分，高頻寬存儲器HBM正逐漸成為其不可或缺的DRAM模塊。

英偉達的下一代AI加速卡B100（Blackwell架構）的存儲器規格，將采用HBM3E。而這種規格的存儲器，目前只有SK海力士、三星電子和美光能提供。為了保障HBM的穩定供應，英偉達甚至需要以大量預付款的形式提供資金支持內存供應商研發HBM產品。要知道客戶向內存供應商大規模預付款項的情況是很少見的。

畢竟，急切需要HBM3E產能的并非只有英偉達一家，眾多企業都競相爭奪這一稀缺資源，比如 AMD、微軟、亞馬遜等都在排隊購買。

據悉，AMD 將在今年晚些時候推出采用 HBM3e 內存的升級版 MI300 AI 加速器，隨后于 2025 年推出新一代 Instinct MI400。除英偉達和AMD之外，亞馬遜和微軟則是云服務領域的兩大巨頭，之前已引入生成式人工智能技術，并大幅追加了對于AI領域的投資。報道稱，SK海力士正忙于應對客戶對HBM3E樣品的大量請求，但滿足英偉達首先提出的樣品數量要求非常緊迫。

在這場競賽的伊始，兩大HBM供應商的產能迅速被搶購一空。

近日，SK海力士副總裁Kim Ki-tae在一篇博文中表示，雖然2024年才剛開始，但今年SK海力士旗下的HBM已經全部售罄。同時，公司為了保持市場領先地位，已開始為2025年預作準備。美光科技也表示今年HBM產能已銷售一空，2025年絕大多數產能已被預訂。

此前英偉達聯合創始人兼CEO黃仁勛在GTC 2024大會上表示，英偉達正在測試三星的HBM芯片，可能會在未來采用。

這也意味著，在當前供需關系異常緊張的背景下，英偉達不僅依賴SK海力士和美光兩家提供HBM3E產能，還急需三星的加入以滿足其日益增長的需求。

如此來看，在AI發展如日中天的當下，HBM3E的2024年產能存在嚴重不足。

04

2024年HBM供給位元年增長率有望高達260%

據集邦咨詢，截至 2024 年底，整體 DRAM 產業規劃生產 HBM TSV 的產能約為 250K/m，占總 DRAM 產能（約 1,800K/m）約 14%，原廠持續加大投入，供給位元年增長率有望高達 260%。 占比方面，HBM 需求持續旺盛，2024 年訂單已基本被買家鎖定，占 DRAM 總產值比重有望從 2023 年的 8.4%提升至 2024 年的 20.1%，成長迅速。

該機構同時預估了三大HBM廠商的HBM/TSV產能，其中三星HBM TSV年產能將在2024年達到130K/m。SK海力士次之，可達120~125K/m；美光相對較少，僅為20K/m、目前三星、SK海力士規劃提高HBM產能最積極，其中SK海力士在HBM3市場的占有率逾90%，而三星將連續數個季度緊追，未來將受惠于AMD MI300芯片的逐季放量。

HBM高帶寬存儲芯片晶圓的尺寸相比同容量、同制程的DDR5大35%~45%，然而良率（包含TSV封裝良率）要低20%~30%。生產周期方面，HBM的制造工藝（包含TSV）較DDR5長1.5~2個月不等。由于HBM芯片生產周期更長，從投片到產出、封裝完成需要兩個季度以上。因此，急需取得充足供貨的買家更早鎖定訂單。

去年6月有媒體報道稱，SK海力士正在準備投資后段工藝設備，將擴建封裝HBM3的利川工廠，預計到今年年末，該廠后段工藝設備規模將增加近一倍。

近日，SK海力士正計劃投資大約40億美元，在美國印第安納州西拉斐特新建大型的先進芯片封裝工廠，力爭擴張HBM存儲產能以滿足英偉達龐大需求。該大型先進封裝工廠可能于2028年開始運營。

為了縮小差距，美光也對其下一代產品 HBM3E 下了很大的賭注。據悉，美光科技位于中國臺灣的臺中四廠已于2023年11月初正式啟用。美光表示，臺中四廠將整合先進探測與封裝測試功能，量產HBM3E及其他產品，從而滿足人工智能、數據中心、邊緣計算及云端等各類應用日益增長的需求。

三星電子從去年第四季度開始擴大第四代HBM即HBM3的供應，目前正進入一個過渡期。負責三星美國半導體業務的執行副總裁 Han Jin-man 在今年1月表示，公司對包括 HBM 系列在內的大容量存儲芯片寄予厚望，希望它能引領快速增長的人工智能芯片領域。他在CES 2024的媒體見面會上對記者說，“我們今年的 HBM 芯片產量將比去年提高 2.5 倍，明年還將繼續提高 2 倍。”

三星官方還透露，公司計劃在今年第四季度之前，將 HBM 的最高產量提高到每月 15 萬至 17 萬件，以此來爭奪2024年的HBM市場。此前三星電子斥資105億韓元收購了三星顯示位于韓國天安市的工廠和設備，以擴大HBM產能，同時還計劃投資7000億至1萬億韓元新建封裝線。

然而值得注意的是，日前，海外分析師表示，三星HBM3芯片的生產良率約為10%~20%，而SK海力士的HBM3良率可達60%~70%。最大的原因就在于三星堅持使用熱壓非導電薄膜（TC NCF）制造技術，這會導致一些生產問題。而SK海力士則大規模采用回流模制底部填充（MR-MUF）技術，可以克服NCF的弱點。為提高產量，三星正在積極與材料制造商展開談判，其中包括日本的Nagase等公司，旨在獲取MUF材料的穩定供應。據悉，盡管三星已經下達了用于MUF技術的芯片制造設備采購訂單，但由于需要進行更多的測試和優化，使用MUF技術大規模生產高端芯片最早可能要到明年才能準備就緒。

05HBM量價齊升，國產廠商迎頭趕上國內存儲廠商也在入局HBM市場。

根據采招網，近日，武漢新芯發布《高帶寬存儲芯粒先進封裝技術研發和產線建設》招標項目，利用三維集成多晶圓堆疊技術，打造更高容量、更大帶寬、更小功耗和更高生產效率的國產高帶寬存儲器產品，推進多晶圓堆疊工藝產業化，新增生產設備約17臺/套，擬實現月產出能力≥3000片（12英寸）。

面對海外大廠對于 HBM3E 的量產，國內存儲廠商也在 HBM 技術上進行著加速突破，有望在 AI 大浪潮的需求下提升競爭實力。

例如中國臺灣的華邦電于去年8月介紹了其類HBM高帶寬產品CUBEx， 采用1~4層TSV DRAM堆疊，I/O速度500M~2Gbps，總帶寬最高可達1024GB/s，顆粒容量為0.5~4GB，功耗低至不足1pJ/bit。這種比常規HBM擁有更高帶寬的CUBEx可用于AR、VR、可穿戴等領域。

中國大陸方面，目前國際一線廠商DRAM制程在1alpha、1beta水平，國產DRAM制程在 25~17nm水平，中國臺灣DRAM制程在25~19nm水平。國內DRAM制程接近海外，且國內擁有先進封裝技術資源和GPU客戶資源，有強烈的國產化訴求，未來國產DRAM廠商有望突破HBM。

目前中國大陸只有長電科技、通富微電和盛合晶微等一線封裝廠商擁有支持HBM生產的技術（如TSV硅通孔）和設備。長電科技在投資者互動中表示，其XDFOI高密度扇出封裝解決方案也同樣適用于HBM的Chip to Wafer 和Chip to Chip TSV堆疊應用；通富微電此前表示，南通通富工廠先進封裝生產線建成后，公司將成為國內最先進的2.5D/3D先進封裝研發及量產基地，實現國內在HBM高性能封裝技術領域的突破，對于國家在集成電路封測領域突破“卡脖子”技術具有重要意義。

在其余供應鏈上，芯片設計企業國芯科技則表示已與合作伙伴一起正在基于先進工藝開展流片驗證相關chiplet芯片高性能互聯IP技術工作，和上下游合作廠家積極開展包括HBM技術在內的高端芯片封裝合作。

紫光國微表示，公司HBM產品為公司特種集成電路產品，目前還在研發階段。

香農芯創此前表示，公司作為SK海力士分銷商之一具有HBM代理資質。公司未來根據下游客戶需求，在原廠供應有保障的前提下形成相應銷售。

飛凱材料表示，環氧塑封料是HBM存儲芯片制造技術所需要的材料之一，MUF材料按性狀和工藝分不同品種，目前公司MUF材料產品包括液體封裝材料LMC及GMC顆粒封裝料，液體封裝材料LMC已經量產并形成少量銷售，顆粒填充封裝料GMC尚處于研發送樣階段。

興森科技表示，公司的FCBGA封裝基板可用于HBM存儲的封裝，但目前尚未進入海外HBM龍頭產業鏈。

HBM3和HBM3E，作為HBM芯片的最新迭代版本，正逐漸成為市場的寵兒。它們與核心微處理器芯片的緊密結合，為生成式人工智能處理海量數據提供了強有力的支持。未來，隨著HBM3和HBM3E技術的不斷完善和成熟，我們有理由相信，它們將在更多領域大放異彩，成為推動人工智能發展的重要力量。無論是國內還是國際的廠商，都將在這一領域中迎來新的發展機遇和挑戰。