電子發燒友網報道(文/黃晶晶)如今英偉達GPU迭代速度加快至每年一次,HBM存儲速率如何跟上GPU發展節奏。越來越多的超大規模云廠商、GPU廠商開始轉向定制化HBM。而HBM存儲廠商以及晶圓代工廠也在積極配合這一客戶需求。從HMB4的加速量產、HBM4E演進到邏輯裸芯片的定制化等HBM技術正在創新中發展。
HBM4E的基礎裸片集成內存控制器
外媒報道,臺積電在近日的生態論壇上分享了對首代定制 HBM 內存的看法。臺積電認為定制HBM將在HBM4E時代正式落地,即C-HBM4E。
據介紹,臺積電為HBM4提供兩種不同的HBM Base Die(基礎裸片)制程方案,分別是面向主流市場的 N12FFC+ 和追求更高性能的N5。后應英偉達要求,SK 海力士將基礎裸片工藝升級為更先進的 N3 節點。
?
在 C-HBM4E 上,為向基礎裸片集成MC(內存控制器)以滿足節省計算芯片面積等需求,臺積電將提供 N3P 先進制程基礎裸片解決方案,可將能效提升至HBM3E基礎裸片的2倍左右。同時 C-HBM4E 的 Vdd 電壓將僅有 0.75V,較HBM4 進一步降低。
去年,SK 海力士與臺積電簽署諒解備忘錄,臺積電負責生產HBM4的基礎裸片。SK 海力士以往 HBM 產品的基礎裸片由自身制程工藝制造,而 HBM4 采用臺積電的先進邏輯工藝。同時,雙方還將協力優化 SK 海力士的 HBM 產品和臺積電的 CoWoS 技術融合,共同應對 HBM 相關客戶的要求。
在SK 海力士首次公開展示的HBM4可以看到,該產品采用12層堆疊結構,通過臺積電N3 工藝制造的基底裸片,實現了單顆36GB容量和2TB/s 的帶寬突破,較前代 HBM3E 的傳輸速度提升了60% 以上。
將GPU、xPU核心集成到HBM的可能性
日前,Meta和Nvidia正在與SK海力士和三星電子探討合作,他們希望將AI xPU 的特定功能電路卸載到 HBM的基礎裸片中,從而提升xPU的芯片面積利用率,讓 HBM 不僅是片外緩存拓展,還成為 xPU 邏輯功能的組成部分,從而提高芯片整體效率,減少面積占用,滿足 AI 應用對極致性能和能效比的追求。例如,將GPU核心嵌入到位于HBM底部的基片中,就是將之前集中在GPU上的計算功能卸載到內存,從而減少數據傳輸和GPU本身的負擔。
目前HBM底部的基片負責內存與外部環境之間的通信。上述內容提到HBM4E的基片有望集成內存控制器。大型科技公司試圖通過添加能夠控制內存的半導體來提升性能和效率。而集成 GPU 核心又提供了另一種技術可能。其本質仍然是縮短內存與計算之間的物理距離,降低數據傳輸延遲和功耗,提升性能。
不過,報道指出由于硅通孔TSV工藝的限制,HBM 基片上用于容納 GPU 核心的空間非常有限。電源供應和散熱也是關鍵問題。GPU計算核心功耗高、發熱量大,散熱管理成為瓶頸。
美光HBM4E基底邏輯芯片將與臺積電合作定制
美光日前表示,在高帶寬內存(HBM)領域,美光表示其 12 層堆疊的 HBM4 DRAM 方案按計劃推進。為響應近期激增的性能需求,公司已完成業界最快 HBM4 解決方案的首批樣片交付,該方案實現超 11 Gbps 引腳傳輸速率與 2.8 TB/s 帶寬。美光 HBM4 憑借業界頂尖的性能表現與能效比,全面優于所有競品。
美光總裁兼首席執行官桑杰?梅赫羅特拉(Sanjay Mehrotra)表示,成熟的 1-γ DRAM 工藝、創新低功耗的 HBM4 架構、自研先進 CMOS 基底芯片及前沿封裝技術,構成了這款標桿產品的核心競爭力。
他進一步披露了下一代 HBM4E 內存規劃。與完全基于自研先進 CMOS 基底芯片的 HBM 不同,HBM4E 的基底邏輯芯片將與臺積電合作制造,涵蓋標準品與定制化產品。美光預計 HBM4E 將于 2027 年正式推出。
他說,針對 HBM4E,美光科技將提供標準產品及基底邏輯芯片定制服務。我們正與臺積電合作,為標準品與定制化產品同步開發 HBM4E 基底邏輯芯片。定制化方案需與客戶深度協同,預計搭載定制基底邏輯芯片的 HBM4E 將較標準品實現更高毛利率。目前美光 HBM 客戶群已擴展至 6 家。
三星積極推進HBME4
三星電子計劃最早于明年上半年完成 HBM4E 的開發工作。HBM4E邏輯裸片的定制化需要廠商具備定制產品設計的能力,以及先進的晶圓代工制程能力。三星從 HBM4 世代開始采用自家晶圓代工工藝生產邏輯裸片,具備垂直整合、以及調配供應鏈的能力。不過,考慮到SK海力士、美光都選擇與臺積電合作邏輯裸片,對于HBM4E邏輯裸片的定制化的確也考驗三星對基礎裸片進行設計與制造能力。
小結:
不僅是英偉達,現在很多大型科技公司都在自主研發AI加速器,于是對HBM4E定制化的需求日益強烈且多元化。以搭載 HBM4E的AI 加速器計劃于2027 年正式發布來倒推,HBM4E 有望在明年下半年完成產品品質驗證。對于存儲廠商來說,定制化能夠加深客戶和存儲廠商的合作關系。一旦進入供應鏈體系后,客戶不會輕易更換供應商。這種定制化HBM合作會是存儲廠商搶占客戶提升市場份額的關鍵,可以想見未來HBM市場格局的競爭將非常激烈。
HBM4E的基礎裸片集成內存控制器
外媒報道,臺積電在近日的生態論壇上分享了對首代定制 HBM 內存的看法。臺積電認為定制HBM將在HBM4E時代正式落地,即C-HBM4E。
據介紹,臺積電為HBM4提供兩種不同的HBM Base Die(基礎裸片)制程方案,分別是面向主流市場的 N12FFC+ 和追求更高性能的N5。后應英偉達要求,SK 海力士將基礎裸片工藝升級為更先進的 N3 節點。
?在 C-HBM4E 上,為向基礎裸片集成MC(內存控制器)以滿足節省計算芯片面積等需求,臺積電將提供 N3P 先進制程基礎裸片解決方案,可將能效提升至HBM3E基礎裸片的2倍左右。同時 C-HBM4E 的 Vdd 電壓將僅有 0.75V,較HBM4 進一步降低。
去年,SK 海力士與臺積電簽署諒解備忘錄,臺積電負責生產HBM4的基礎裸片。SK 海力士以往 HBM 產品的基礎裸片由自身制程工藝制造,而 HBM4 采用臺積電的先進邏輯工藝。同時,雙方還將協力優化 SK 海力士的 HBM 產品和臺積電的 CoWoS 技術融合,共同應對 HBM 相關客戶的要求。
在SK 海力士首次公開展示的HBM4可以看到,該產品采用12層堆疊結構,通過臺積電N3 工藝制造的基底裸片,實現了單顆36GB容量和2TB/s 的帶寬突破,較前代 HBM3E 的傳輸速度提升了60% 以上。
將GPU、xPU核心集成到HBM的可能性
日前,Meta和Nvidia正在與SK海力士和三星電子探討合作,他們希望將AI xPU 的特定功能電路卸載到 HBM的基礎裸片中,從而提升xPU的芯片面積利用率,讓 HBM 不僅是片外緩存拓展,還成為 xPU 邏輯功能的組成部分,從而提高芯片整體效率,減少面積占用,滿足 AI 應用對極致性能和能效比的追求。例如,將GPU核心嵌入到位于HBM底部的基片中,就是將之前集中在GPU上的計算功能卸載到內存,從而減少數據傳輸和GPU本身的負擔。
目前HBM底部的基片負責內存與外部環境之間的通信。上述內容提到HBM4E的基片有望集成內存控制器。大型科技公司試圖通過添加能夠控制內存的半導體來提升性能和效率。而集成 GPU 核心又提供了另一種技術可能。其本質仍然是縮短內存與計算之間的物理距離,降低數據傳輸延遲和功耗,提升性能。
不過,報道指出由于硅通孔TSV工藝的限制,HBM 基片上用于容納 GPU 核心的空間非常有限。電源供應和散熱也是關鍵問題。GPU計算核心功耗高、發熱量大,散熱管理成為瓶頸。
美光HBM4E基底邏輯芯片將與臺積電合作定制
美光日前表示,在高帶寬內存(HBM)領域,美光表示其 12 層堆疊的 HBM4 DRAM 方案按計劃推進。為響應近期激增的性能需求,公司已完成業界最快 HBM4 解決方案的首批樣片交付,該方案實現超 11 Gbps 引腳傳輸速率與 2.8 TB/s 帶寬。美光 HBM4 憑借業界頂尖的性能表現與能效比,全面優于所有競品。
美光總裁兼首席執行官桑杰?梅赫羅特拉(Sanjay Mehrotra)表示,成熟的 1-γ DRAM 工藝、創新低功耗的 HBM4 架構、自研先進 CMOS 基底芯片及前沿封裝技術,構成了這款標桿產品的核心競爭力。
他進一步披露了下一代 HBM4E 內存規劃。與完全基于自研先進 CMOS 基底芯片的 HBM 不同,HBM4E 的基底邏輯芯片將與臺積電合作制造,涵蓋標準品與定制化產品。美光預計 HBM4E 將于 2027 年正式推出。
他說,針對 HBM4E,美光科技將提供標準產品及基底邏輯芯片定制服務。我們正與臺積電合作,為標準品與定制化產品同步開發 HBM4E 基底邏輯芯片。定制化方案需與客戶深度協同,預計搭載定制基底邏輯芯片的 HBM4E 將較標準品實現更高毛利率。目前美光 HBM 客戶群已擴展至 6 家。
三星積極推進HBME4
三星電子計劃最早于明年上半年完成 HBM4E 的開發工作。HBM4E邏輯裸片的定制化需要廠商具備定制產品設計的能力,以及先進的晶圓代工制程能力。三星從 HBM4 世代開始采用自家晶圓代工工藝生產邏輯裸片,具備垂直整合、以及調配供應鏈的能力。不過,考慮到SK海力士、美光都選擇與臺積電合作邏輯裸片,對于HBM4E邏輯裸片的定制化的確也考驗三星對基礎裸片進行設計與制造能力。
小結:
不僅是英偉達,現在很多大型科技公司都在自主研發AI加速器,于是對HBM4E定制化的需求日益強烈且多元化。以搭載 HBM4E的AI 加速器計劃于2027 年正式發布來倒推,HBM4E 有望在明年下半年完成產品品質驗證。對于存儲廠商來說,定制化能夠加深客戶和存儲廠商的合作關系。一旦進入供應鏈體系后,客戶不會輕易更換供應商。這種定制化HBM合作會是存儲廠商搶占客戶提升市場份額的關鍵,可以想見未來HBM市場格局的競爭將非常激烈。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
存儲
+關注
關注
13文章
4788瀏覽量
90057
發布評論請先 登錄
相關推薦
熱點推薦
如何突破AI存儲墻?深度解析ONFI 6.0高速接口與Chiplet解耦架構
1. 行業核心痛點:AI“存儲墻”危機在大模型訓練與推理場景中,算力演進速度遠超存儲帶寬,計算與存儲
發表于 01-29 17:32
2025年曙光存儲以先進存力構建開放的算力底座并加速AI進化
數據存儲作為AI基礎設施的重要組成,戰略價值日益凸顯。2025年,曙光存儲以先進存力構建開放的算力
HBM3E反常漲價20%,AI算力競賽重塑存儲芯片市場格局
明年HBM3E價格,漲幅接近20%。 ? 此次漲價背后,是AI算力需求爆發與供應鏈瓶頸的共同作用。隨著英偉達H200、谷歌TPU、 亞馬遜Trainium 等
睿海光電領航AI光模塊:超快交付與全場景兼容賦能智算時代——以創新實力助力全球客戶構建高效算力底座
一、AI算力革命催生光模塊新需求,睿海光電以技術優勢搶占制高點
人工智能、超大規模數據中心和云計算的高速發展,對光模塊的傳輸效率、兼容性及交付周期提出更高要求。作為全球
發表于 08-13 19:03
騰視科技TS-NV-P100系列AI邊緣算力盒子綜合算力高達157TOPS:重新定義AI邊緣算力,賦能千行百業智能化升級
視科技正通過持續的技術創新,為千行百業的智能化轉型提供堅實的邊緣算力底座,讓AI真正成為驅動產業升級的核心動能。
騰視科技TS-NV-P100系列AI邊緣算力盒子綜合算力高達157TOPS:重新定義AI邊緣算力,賦能千行百業智能化升級
視科技正通過持續的技術創新,為千行百業的智能化轉型提供堅實的邊緣算力底座,讓AI真正成為驅動產業升級的核心動能。
DeepSeek推動AI算力需求:800G光模塊的關鍵作用
隨著人工智能技術的飛速發展,AI算力需求正以前所未有的速度增長。DeepSeek等大模型的訓練與推理任務對算
發表于 03-25 12:00
(原創)昇騰310B(8T/20T)算力主板定制方案
支持PCIe3.0×4,可定制接口板卡或與FPGA對接。e)全國產化設計,-40℃~+70℃(帶散熱結構)寬溫工作范圍,穩態功耗約30W。2.邏輯框圖板卡邏輯框圖如下圖所示。昇騰310
發表于 03-16 21:43
AI大算力的存儲技術, HBM 4E轉向定制化
評論