電子發(fā)燒友網(wǎng)報道（文/黃晶晶）在早前的報道中，對于HBM產(chǎn)能是否即將過剩，業(yè)界有不同的聲音，但絲毫未影響存儲芯片廠商對HBM產(chǎn)品升級的步伐。

三大廠商12層HBM3E進展

9月26日SK海力士宣布公司已開始量產(chǎn)12H HBM3E芯片，實現(xiàn)了現(xiàn)有HBM產(chǎn)品中最大的36GB容量。該產(chǎn)品堆疊12顆3GB DRAM芯片，實現(xiàn)與現(xiàn)有的8層產(chǎn)品相同的厚度，同時容量提升50%。運行速度提高至9.6Gbps，這是在以搭載四個HBM的單個GPU運行大型語言模型（LLM）“Llama 3 70B”時，每秒可讀取35次700億個整體參數(shù)的水平。SK海力士將在年內(nèi)向客戶提供12層HBM3E。


圖源：SK海力士

另外，SK海力士今年初曾公開單一堆疊的速度可達1280 GB/s的16層48GB HBM3E概念產(chǎn)品。據(jù)韓媒最新報道，SK海力士近期經(jīng)內(nèi)部檢驗，已成功確保16層HBM3E性能特性。

今年9月，美光宣布推出12 層堆疊HBM3E。美光表示，隨著 AI 工作負載的不斷發(fā)展和擴充，記憶體頻寬和容量對提升系統(tǒng)效能越來越關鍵。業(yè)界最新的 GPU 需要最高效能的高頻寬記憶體（HBM）、龐大的記憶體容量以及更高的功耗效率。為滿足這些需求，美光走在記憶體創(chuàng)新的最前線，目前正在向主要產(chǎn)業(yè)合作伙伴提供可量產(chǎn)的 HBM3E 12 層堆疊記憶體，并在整個 AI 生態(tài)系統(tǒng)進行認證。

圖源：美光科技

美光領先的 1?（1-beta）記憶體技術(shù)和先進的封裝技術(shù)確保資料流以最高效的方式進出 GPU。美光的 8 層堆疊和 12 層堆疊 HBM3E 記憶體進一步推動 AI 創(chuàng)新，功耗比競爭對手低 30%。美光的 8 層堆疊 24GB HBM3E 已與 NVIDIA H200 Tensor Core GPU 一起出貨，并且可量產(chǎn)的 12 層堆疊 36GB HBM3E 也已上市。

美光提到，公司HBM3E 12 層堆疊 36GB 與競爭對手的 8 層堆疊 24GB 產(chǎn)品相比，不僅功耗大幅降低，而且封裝中的DRAM容量增加了50%。可讓擁有 700 億個參數(shù)的大型 AI 模型（如 Llama 2）運行于單個處理器上。容量的增加避免了 CPU 卸載和 GPU-GPU 通訊延遲，因此能更快地取得洞見。

美光 HBM3E 12 層堆疊 36GB 提供每秒超過 1.2 TB/s 的記憶體頻寬，Pin 速度超過每秒 9.2 Gb。美光 HBM3E 以最低的功耗提供最大的吞吐量。

此外，美光 HBM3E 12 層堆疊記憶體還整合了完全可編程 MBIST，能夠以全規(guī)格速度運行系統(tǒng)典型流量，為加快驗證提供了更大的測試覆蓋范圍，縮短了產(chǎn)品上市時間，并提高了系統(tǒng)可靠性。

美光在其最新財報中表示，已從第四財季(2024年6-8月)開始向主要行業(yè)合作伙伴交付可量產(chǎn)的12層HBM3E（36GB），預計將在2025年初提高12層HBM3E產(chǎn)量，并在2025年全年增加該產(chǎn)品出貨。

美光稱HBM在2024年和2025年均已售罄，且定價已確定。到2025年和2026年，將擁有更加多元化的HBM收入狀況，因為美光已憑借行業(yè)領先的HBM3E解決方案贏得了廣泛HBM客戶的業(yè)務。

韓媒此前報道，三星電子于今年2月首次推出了HBM3E 12H。在2024 年第 2 季度財報電話會議上，三星公司高管表示，已經(jīng)準備好量產(chǎn) 12 層 HBM3E 芯片，我們將根據(jù)多家客戶的需求計劃，在今年下半年擴大供應。

同時，三星表示，第五代 8 層 HBM3E 產(chǎn)品已交付客戶評估，計劃 2024 年第 3 季度開始量產(chǎn)。總之，HBM3E 芯片在三星 HBM 中所占的份額預計將在第三季度超過 10%，并有望在第四季度迅速擴大到 60%。

HBM PHY和控制器，上游IP不斷拓展

芯片IP廠商主要提供包括處理器核、內(nèi)存控制器、接口協(xié)議、圖形處理單元等集成電路設計中的知識產(chǎn)權(quán)組件。這些可復用的IP核能夠提高設計效率、降低成本、縮短產(chǎn)品上市時間?。目前包括新思、Rambus、創(chuàng)意電子、合見工軟、芯耀輝等等廠商都推出了HBM IP 解決方案。

Synopsys新思科技提供完整的 DesignWare HBM IP 解決方案，包括控制器、PHY 和驗證 IP，以滿足高性能計算、AI 和圖形應用領域的片上系統(tǒng) (SoC) 設計對高帶寬和低功耗內(nèi)存的強烈需求。該 IP 支持 HBM2、HBM2E 和 HBM3 規(guī)范所要求的功能，已經(jīng)過硅驗證，可實現(xiàn)高達 921 GB/s 的高帶寬。

Rambus也積極布局HBM內(nèi)存市場，去年底推出數(shù)據(jù)傳輸速率高達9.6Gb/s的HBM3內(nèi)存控制器IP，可幫助大幅提高AI性能。Rambus的這一內(nèi)存控制器IP產(chǎn)品是經(jīng)過驗證的，可支持所有HBM3產(chǎn)品，也包括最新的HBM3E內(nèi)存設備。

最近，創(chuàng)意電子宣布其3納米HBM3E控制器和實體層IP已獲云端服務供應商（CSP）及多家高效運算（HPC）解決方案供應商采用。這款尖端ASIC預計將于2024年投片，并將采用最新的9.2Gbps HBM3E技術(shù)。此外，創(chuàng)意電子也積極與HBM供應商（如美光）合作，為下一代AI ASIC 開發(fā)HBM4 IP。

創(chuàng)意電子的 HBM3E IP 已通過臺積電 N7 / N6、N5 / N4P、N3E / N3P 先進工藝制程技術(shù)的驗證，與所有主流 HBM3 廠商產(chǎn)品兼容，且在臺積電 CoWoS-S 及 CoWoS-R 先進封裝技術(shù)上都進行了流片驗證。除人工智能應用領域之外，創(chuàng)意也期待相關HBM IP可繼續(xù)為高效能運算、網(wǎng)絡和汽車等各種應用提供支持。

芯耀輝科技致力于為中國大算力產(chǎn)業(yè)提供高速接口IP解決方案。芯耀輝成功研發(fā)出全套自研接口IP，涵蓋了PCIe、Serdes、DDR、HBM、D2D、USB、MIPI、HDMI、SATA，SD/eMMC等最先進協(xié)議標準，并構(gòu)建了一套全棧式完整IP解決方案。

前不久，合見工軟新品發(fā)布涵蓋有UniVista HBM3/E IP，該產(chǎn)品包括HBM3/E內(nèi)存控制器、物理層接口（PHY）和驗證平臺，采用低功耗接口和創(chuàng)新的時鐘架構(gòu)，實現(xiàn)了更高的總體吞吐量和更優(yōu)的每瓦帶寬效率，可幫助芯片設計人員實現(xiàn)超小PHY面積的同時支持最高9.6 Gbps的數(shù)據(jù)速率，解決各類前沿應用對數(shù)據(jù)吞吐量和訪問延遲要求嚴苛的場景需求問題，可廣泛應用于以AI/機器學習應用為代表的數(shù)據(jù)與計算密集型SoC等多類芯片設計中，已實現(xiàn)在AI/ML、數(shù)據(jù)中心和HPC等領域的國內(nèi)頭部IC企業(yè)中的成功部署應用。

小結(jié)：

根據(jù)集邦咨詢的報告，HBM3e 12hi是2024年下半年市場關注的重點。預計于2025年英偉達推出的Blackwell Ultra將采用8顆HBM3e 12hi，GB200也有升級可能，再加上B200A的規(guī)劃，因此，預估2025年12hi產(chǎn)品在HBM3e當中的比重將提升至40%，且有機會上升。英偉達是HBM市場的最大買家，在Blackwell Ultra、B200A等產(chǎn)品推出后，英偉達在HBM市場的采購比重將突破70%。

產(chǎn)能方面，CFM閃存市場數(shù)據(jù)顯示，預計至2024年底三星、SK海力士和美光合計達到30萬片的HBM月產(chǎn)能，其中三星HBM增產(chǎn)最為激進。預計明年全球HBM市場規(guī)模將上望300億美元，HBM將占DRAM晶圓產(chǎn)能約15%至20%。