電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)自今年2月初閃迪首次提出HBF概念以來,越來越多的廠商加入HBF這一行業(yè)。近日,SK海力士推出了名為“AIN系列”的全新產(chǎn)品線,其中就包含HBF。而三星也已經(jīng)啟動(dòng)自有HBF產(chǎn)品的早期概念設(shè)計(jì)工作。

圖源:閃迪
閃迪HBF
SanDisk閃迪在今年2月份展示最新研發(fā)的高帶寬閃存(HBF),這是專為AI領(lǐng)域設(shè)計(jì)的新型存儲(chǔ)器架構(gòu)。HBF全稱HighBandwidthFlash,其結(jié)構(gòu)與堆疊DRAM芯片的HBM類似,是一種通過堆疊NAND閃存而制成的產(chǎn)品。

圖源:閃迪
在設(shè)計(jì)上,HBF結(jié)合了3DNAND閃存和高帶寬存儲(chǔ)器(HBM)的特性,能更好地滿足AI推理的需求。HBF的堆疊設(shè)計(jì)類似于HBM,通過硅通孔(TSVs)將多個(gè)高性能閃存核心芯片堆疊,連接到可并行訪問閃存子陣列的邏輯芯片上。也就是基于SanDisk的BICS3DNAND技術(shù),采用CMOS直接鍵合到陣列(CBA)設(shè)計(jì),將3DNAND存儲(chǔ)陣列鍵合在I/O芯片上。
HBF打破了傳統(tǒng)的NAND設(shè)計(jì),實(shí)現(xiàn)了獨(dú)立訪問的存儲(chǔ)器子陣列,超越了傳統(tǒng)的多平面方法,這種設(shè)計(jì)提高了存儲(chǔ)器的并行訪問能力,從而提升了帶寬和吞吐量。
HBF可匹配HBM的帶寬,同時(shí)以相近的成本實(shí)現(xiàn)每個(gè)堆棧的容量比HBM高出8到16倍。HBF使用16個(gè)核心芯片,單堆棧容量可達(dá)512GB,8個(gè)HBF堆棧可實(shí)現(xiàn)4TB的容量。

圖源:閃迪

圖源:閃迪
下圖顯示出,8個(gè)HBF堆棧提供高達(dá)4TB容量,可支持AI大模型運(yùn)行在GPU硬件上,其高容量特性發(fā)揮得十分出色。

圖源:閃迪
據(jù)介紹,單顆HBF可容納完整的64B模型,有望應(yīng)用于手機(jī)端大模型本地化,也適用于自動(dòng)駕駛、AI玩具、IoT等邊緣設(shè)備的低功耗、高容量的邊緣AI存儲(chǔ)需求。

圖源:閃迪
不過,HBF主要具備高帶寬和容量的特性,但由于NAND閃存的延遲較高,HBF在速度上不如DRAM。因此,?該技術(shù)針對(duì)的是讀取密集型AI推理任務(wù),而不是延遲敏感型應(yīng)用。
根據(jù)HBF技術(shù)路線圖,其第二代產(chǎn)品容量將提升1.5倍,第三代產(chǎn)品提升2倍,第二代產(chǎn)品的讀取性能帶寬較第一代提升1.45倍,第三代提升2倍,同時(shí)能耗也將得到顯著下降。

圖源:閃迪
閃迪表示,前沿大語言模型(LLMS)在AI技術(shù)需求方面呈現(xiàn)出一些新的趨勢(shì)。模型大小和上下文長度在每一代中都在增加,這推動(dòng)更高內(nèi)存容量的需求,而像專家混合(MoE)這樣的架構(gòu)創(chuàng)新實(shí)現(xiàn)則導(dǎo)致計(jì)算需求呈下降趨勢(shì)。

圖源:閃迪
我們認(rèn)為對(duì)內(nèi)存需求增加、計(jì)算需求減少催生了一種新范式,稱之為“以存儲(chǔ)為中心的人工智能”,它最適合基于HBF的系統(tǒng)。
閃迪談到,當(dāng)我們最初將HBF作為一種概念引入時(shí),遭到了明顯的質(zhì)疑。業(yè)內(nèi)的一些人認(rèn)為,基于NAND的技術(shù)無法滿足AI的需求。例如NAND的延遲水平過高,寫入速度與DRAM不匹配,或是耐用性問題。但是,HBF是重新構(gòu)想的NAND,具備極高的性能。
閃迪創(chuàng)建了一個(gè)仿真模型,基于4000億參數(shù)的Llama3.1模型,模擬GPU搭載HBF和HBM的性能差異。在不考慮容量的情況下,觀察推理引擎流程各個(gè)階段的推斷結(jié)果時(shí),可以發(fā)現(xiàn)這兩個(gè)系統(tǒng)之間的整體性能差異僅在2.2%以內(nèi)。

圖源:閃迪
來自韓國科學(xué)技術(shù)高等研究院(KAIST)的JounghoKim教授被稱為"HBM之父",他的團(tuán)隊(duì)提出一種架構(gòu),認(rèn)為100GB的HBM可以作為1TB的HBF前面的緩存層,這將充分利用HBF的優(yōu)勢(shì)同時(shí)不會(huì)導(dǎo)致性能下降。
閃迪表示,將推動(dòng)HBF的開放標(biāo)準(zhǔn)生態(tài)建設(shè),例如建立相同的電氣接口,以實(shí)現(xiàn)無縫集成,與行業(yè)伙伴共同合作,同時(shí)閃迪將持續(xù)創(chuàng)新推動(dòng)閃存技術(shù)的進(jìn)步。
在2025年8月,閃迪宣布已與SK海力士簽署一項(xiàng)諒解備忘錄,雙方將共同制定高帶寬閃存HBF規(guī)范。通過此次合作,雙方希望標(biāo)準(zhǔn)化規(guī)范、定義技術(shù)要求,并探索構(gòu)建HBF的技術(shù)生態(tài)系統(tǒng)。
SK海力士、三星、鎧俠開啟HBF研發(fā)
今年10月份消息,三星電子已開始進(jìn)行自主研發(fā)的HBF產(chǎn)品的概念設(shè)計(jì)等前期工作。該公司計(jì)劃利用其過去在類似技術(shù)和產(chǎn)品方面的研發(fā)經(jīng)驗(yàn),以滿足面向數(shù)據(jù)中心的高帶寬閃存日益增長的需求。該開發(fā)仍處于早期階段,尚未確定詳細(xì)的產(chǎn)品規(guī)格或量產(chǎn)時(shí)間表。
2025年11月,在日前舉行的2025OCP全球峰會(huì)上,SK海力士推出了名為“AIN系列”的全新產(chǎn)品線,其中就包含HBF。
AI-NB(Bandwidth)加大帶寬產(chǎn)品,通過垂直堆疊NAND芯粒來擴(kuò)大帶寬,做為彌補(bǔ)HBM容量增長限制的解決方案。其關(guān)鍵在于將HBM的堆疊結(jié)構(gòu)與高密度且具成本效益的NANDFlash閃存結(jié)合,例如HBF。
另外,Kioxia于今年8月展示了一款5TB超高速HBF原型產(chǎn)品。其實(shí)現(xiàn)方式與閃迪的HBF堆疊閃存不同,Kioxia開發(fā)的這款專為邊緣服務(wù)器設(shè)計(jì)的高速閃存驅(qū)動(dòng)器原型,采用串聯(lián)連接的閃存"珠鏈"架構(gòu),閃存珠鏈和控制器串聯(lián)連接到每個(gè)存儲(chǔ)板,而非總線連接方式,并使用PCIe6總線接口。
小結(jié):
韓國新榮證券數(shù)據(jù)顯示,預(yù)計(jì)到2030年,HBF市場(chǎng)規(guī)模將達(dá)到120億美元,雖然這僅占同年HBM市場(chǎng)規(guī)模(約1170億美元)的10%,但預(yù)計(jì)它將與HBM形成互補(bǔ),并加速其增長。
Sandisk預(yù)計(jì)在2026年下半年交付其HBF閃存的第一批樣品,首批采用HBF的AI推理設(shè)備樣品將于2027年初上市。相信HBF技術(shù)憑借其大容量、高帶寬、低成本和低功耗等優(yōu)勢(shì),將成為AI推理的存儲(chǔ)新貴。
-
存儲(chǔ)
+關(guān)注
關(guān)注
13文章
4853瀏覽量
90208 -
HBM
+關(guān)注
關(guān)注
2文章
432瀏覽量
15873
發(fā)布評(píng)論請(qǐng)先 登錄
內(nèi)存要取代GPU?HBM之父警告:以英偉達(dá)GPU為核心的架構(gòu)要被顛覆
SK海力士與閃迪公司啟動(dòng)HBF全球標(biāo)準(zhǔn)化制定工作
KV緩存黑科技!SK海力士“H3存儲(chǔ)架構(gòu)”,HBM和HBF技術(shù)加持!
存儲(chǔ)狂飆與HBM擴(kuò)產(chǎn)潮下,高端芯片燒錄的“速度與精度”終極博弈
存儲(chǔ)迭代暗涌:HBM4與UFS4.1浪潮下,燒錄環(huán)節(jié)何以成為新瓶頸?
HBM量價(jià)齊飛,UFS加速普及:存儲(chǔ)狂飆下的“最后質(zhì)檢”攻堅(jiān)戰(zhàn)
AI大算力的存儲(chǔ)技術(shù), HBM 4E轉(zhuǎn)向定制化
半導(dǎo)體“HBM和3D Stacked Memory”技術(shù)的詳解
紫光國芯存儲(chǔ)芯片國產(chǎn)替代方案:打破DDR5/HBM芯片供應(yīng)鏈瓶頸
HBM技術(shù)在CowoS封裝中的應(yīng)用
SK海力士宣布量產(chǎn)HBM4芯片,引領(lǐng)AI存儲(chǔ)新變革
構(gòu)建HBF技術(shù)生態(tài),閃迪首批高帶寬閃存HBF 2026年出樣
突破堆疊瓶頸:三星電子擬于16層HBM導(dǎo)入混合鍵合技術(shù)
替代HBM,存儲(chǔ)大廠們進(jìn)軍HBF技術(shù)
評(píng)論