人工智能（AI）無疑是近幾年最火的技術(shù)。從開發(fā)到部署AI技術(shù)主要可分為兩大步驟，即AI訓練和AI推理。

AI訓練主要是為AI模型提供數(shù)據(jù)，使其掌握了解將要分析的數(shù)據(jù)類型所需的一切信息的過程；而AI推理則是通過經(jīng)過訓練的AI模型運行新的實時數(shù)據(jù)，從而作出預(yù)測并產(chǎn)生可執(zhí)行結(jié)果的過程。

在這兩個過程中，它們對于計算的需求不同，AI訓練的計算周期長，需要大量優(yōu)質(zhì)數(shù)據(jù)，是一次性的投資。AI推理則是短時間的算力需求激增，需要快速、高效能的計算，是一個長期投資。

尤其對于AI訓練，隨著AI大模型的復(fù)雜度不斷提升，AI訓練所需的數(shù)據(jù)也在持續(xù)增長。根據(jù)OpenAI的數(shù)據(jù)，自2012年以來，最大規(guī)模的AI訓練所使用的計算量以每年10倍的速度增長。以O(shè)penAI的ChatGPT為例，2022年11月發(fā)布的GPT-3當時使用了1750億個參數(shù)構(gòu)建，而到2023年3月發(fā)布的GPT-4時，使用的參數(shù)數(shù)量已經(jīng)超過1.5萬億個。這一數(shù)據(jù)還在持續(xù)增長中。

如此大規(guī)模的數(shù)據(jù)總量對于內(nèi)存提出了較高要求，如高帶寬、高容量、高性能等，傳統(tǒng)的內(nèi)存產(chǎn)品已經(jīng)無法滿足AI訓練的需求。而HBM似乎是為AI訓練量身定做的存儲器產(chǎn)品。

HBM（High Bandwidth Memory，高帶寬存儲器）最先是AMD和SK海力士發(fā)起的一種基于3D堆棧工藝的高性能DRAM，它包含了中介層、處理器以及內(nèi)存堆棧。這意味著HBM可以提供非常高的帶寬，而且還具有非常高的能效及低延遲。目前，HBM內(nèi)存已經(jīng)演進了了幾代，最新一代為HBM3E，英偉達即將發(fā)布的H200將是首款提供HBM3E的GPU產(chǎn)品。

人工智能技術(shù)的發(fā)展也帶動了HBM市場的不斷發(fā)展，在今年內(nèi)存市場普遍低迷的情況下，HBM需求井噴，未來幾年的增幅也將擴大。據(jù)咨詢機構(gòu)TrendForce預(yù)測，2024年全球HBM的位元供給有望增長105%。到2024年，HBM的市場規(guī)模有望達到89億美元，同比增長127%，2025年預(yù)計將突破100億美元。

在此情況下，作為內(nèi)存控制器IP的主要提供商之一，Rambus也積極布局HBM內(nèi)存市場，近期推出了數(shù)據(jù)傳輸速率高達9.6Gb/s的HBM3內(nèi)存控制器IP，可幫助大幅提高AI性能。據(jù)Rambus接口IP產(chǎn)品管理和營銷副總裁Joe Salvador先生介紹，Rambus的這一內(nèi)存控制器IP產(chǎn)品是經(jīng)過驗證的，可支持所有HBM3產(chǎn)品，也包括最新的HBM3E內(nèi)存設(shè)備。

Rambus HBM3控制器模塊圖

Joe Salvador強調(diào)：“Rambus HBM3控制器不僅僅是一個獨立產(chǎn)品，我們還能提供一整套完整的經(jīng)過驗證的解決方案，能夠和市面上目前比較常見的HBM3以及相關(guān)的內(nèi)存模組進行匹配，如SK海力士、美光和三星的產(chǎn)品，我們都已經(jīng)完成了一整套的測試。另外，我們也經(jīng)過了第三方來自西門子Avery的驗證IP，也可以完整地支持相應(yīng)的功能。”

目前，隨著AI技術(shù)的不斷發(fā)展，對于算力和內(nèi)存的需求也將不斷增長。Rambus大中華區(qū)總經(jīng)理蘇雷先生表示：“AI技術(shù)發(fā)展面臨的挑戰(zhàn)將更多集中于存儲墻問題，而算力的演進將不會面臨太多的挑戰(zhàn)。目前的內(nèi)存和帶寬的發(fā)展還是太慢，無法跟上AI技術(shù)的發(fā)展腳步。作為存儲方面的專家，Rambus可以預(yù)見，伴隨著AI的新成長和驅(qū)動，我們會在這一輪的科技浪潮中發(fā)揮越來越重要的作用，助力AI的發(fā)展。”

另外，數(shù)據(jù)安全也是在AI技術(shù)發(fā)展中不可忽視的問題。蘇雷表示：“我們也提供安全IP方面的全套方案，讓數(shù)據(jù)傳輸更快、更安全。”

AI時代的來臨，帶來了很多挑戰(zhàn)和機遇。而對于存儲器市場來說，則是一次很好的發(fā)展機會。作為存儲行業(yè)的老兵，Rambus未來也大有可為。

審核編輯：劉清