電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)自今年2月初閃迪首次提出HBF概念以來(lái),越來(lái)越多的廠商加入HBF這一行業(yè)。近日,SK海力士推出了名為“AIN系列”的全新產(chǎn)品線,其中就包含HBF。而三星也已經(jīng)啟動(dòng)自有HBF產(chǎn)品的早期概念設(shè)計(jì)工作。

圖源:閃迪
閃迪HBF
SanDisk閃迪在今年2月份展示最新研發(fā)的高帶寬閃存(HBF),這是專(zhuān)為AI領(lǐng)域設(shè)計(jì)的新型存儲(chǔ)器架構(gòu)。HBF全稱HighBandwidthFlash,其結(jié)構(gòu)與堆疊DRAM芯片的HBM類(lèi)似,是一種通過(guò)堆疊NAND閃存而制成的產(chǎn)品。

圖源:閃迪
在設(shè)計(jì)上,HBF結(jié)合了3DNAND閃存和高帶寬存儲(chǔ)器(HBM)的特性,能更好地滿足AI推理的需求。HBF的堆疊設(shè)計(jì)類(lèi)似于HBM,通過(guò)硅通孔(TSVs)將多個(gè)高性能閃存核心芯片堆疊,連接到可并行訪問(wèn)閃存子陣列的邏輯芯片上。也就是基于SanDisk的BICS3DNAND技術(shù),采用CMOS直接鍵合到陣列(CBA)設(shè)計(jì),將3DNAND存儲(chǔ)陣列鍵合在I/O芯片上。
HBF打破了傳統(tǒng)的NAND設(shè)計(jì),實(shí)現(xiàn)了獨(dú)立訪問(wèn)的存儲(chǔ)器子陣列,超越了傳統(tǒng)的多平面方法,這種設(shè)計(jì)提高了存儲(chǔ)器的并行訪問(wèn)能力,從而提升了帶寬和吞吐量。
HBF可匹配HBM的帶寬,同時(shí)以相近的成本實(shí)現(xiàn)每個(gè)堆棧的容量比HBM高出8到16倍。HBF使用16個(gè)核心芯片,單堆棧容量可達(dá)512GB,8個(gè)HBF堆棧可實(shí)現(xiàn)4TB的容量。

圖源:閃迪

圖源:閃迪
下圖顯示出,8個(gè)HBF堆棧提供高達(dá)4TB容量,可支持AI大模型運(yùn)行在GPU硬件上,其高容量特性發(fā)揮得十分出色。

圖源:閃迪
據(jù)介紹,單顆HBF可容納完整的64B模型,有望應(yīng)用于手機(jī)端大模型本地化,也適用于自動(dòng)駕駛、AI玩具、IoT等邊緣設(shè)備的低功耗、高容量的邊緣AI存儲(chǔ)需求。

圖源:閃迪
不過(guò),HBF主要具備高帶寬和容量的特性,但由于NAND閃存的延遲較高,HBF在速度上不如DRAM。因此,?該技術(shù)針對(duì)的是讀取密集型AI推理任務(wù),而不是延遲敏感型應(yīng)用。
根據(jù)HBF技術(shù)路線圖,其第二代產(chǎn)品容量將提升1.5倍,第三代產(chǎn)品提升2倍,第二代產(chǎn)品的讀取性能帶寬較第一代提升1.45倍,第三代提升2倍,同時(shí)能耗也將得到顯著下降。

圖源:閃迪
閃迪表示,前沿大語(yǔ)言模型(LLMS)在AI技術(shù)需求方面呈現(xiàn)出一些新的趨勢(shì)。模型大小和上下文長(zhǎng)度在每一代中都在增加,這推動(dòng)更高內(nèi)存容量的需求,而像專(zhuān)家混合(MoE)這樣的架構(gòu)創(chuàng)新實(shí)現(xiàn)則導(dǎo)致計(jì)算需求呈下降趨勢(shì)。

圖源:閃迪
我們認(rèn)為對(duì)內(nèi)存需求增加、計(jì)算需求減少催生了一種新范式,稱之為“以存儲(chǔ)為中心的人工智能”,它最適合基于HBF的系統(tǒng)。
閃迪談到,當(dāng)我們最初將HBF作為一種概念引入時(shí),遭到了明顯的質(zhì)疑。業(yè)內(nèi)的一些人認(rèn)為,基于NAND的技術(shù)無(wú)法滿足AI的需求。例如NAND的延遲水平過(guò)高,寫(xiě)入速度與DRAM不匹配,或是耐用性問(wèn)題。但是,HBF是重新構(gòu)想的NAND,具備極高的性能。
閃迪創(chuàng)建了一個(gè)仿真模型,基于4000億參數(shù)的Llama3.1模型,模擬GPU搭載HBF和HBM的性能差異。在不考慮容量的情況下,觀察推理引擎流程各個(gè)階段的推斷結(jié)果時(shí),可以發(fā)現(xiàn)這兩個(gè)系統(tǒng)之間的整體性能差異僅在2.2%以內(nèi)。

圖源:閃迪
來(lái)自韓國(guó)科學(xué)技術(shù)高等研究院(KAIST)的JounghoKim教授被稱為"HBM之父",他的團(tuán)隊(duì)提出一種架構(gòu),認(rèn)為100GB的HBM可以作為1TB的HBF前面的緩存層,這將充分利用HBF的優(yōu)勢(shì)同時(shí)不會(huì)導(dǎo)致性能下降。
閃迪表示,將推動(dòng)HBF的開(kāi)放標(biāo)準(zhǔn)生態(tài)建設(shè),例如建立相同的電氣接口,以實(shí)現(xiàn)無(wú)縫集成,與行業(yè)伙伴共同合作,同時(shí)閃迪將持續(xù)創(chuàng)新推動(dòng)閃存技術(shù)的進(jìn)步。
在2025年8月,閃迪宣布已與SK海力士簽署一項(xiàng)諒解備忘錄,雙方將共同制定高帶寬閃存HBF規(guī)范。通過(guò)此次合作,雙方希望標(biāo)準(zhǔn)化規(guī)范、定義技術(shù)要求,并探索構(gòu)建HBF的技術(shù)生態(tài)系統(tǒng)。
SK海力士、三星、鎧俠開(kāi)啟HBF研發(fā)
今年10月份消息,三星電子已開(kāi)始進(jìn)行自主研發(fā)的HBF產(chǎn)品的概念設(shè)計(jì)等前期工作。該公司計(jì)劃利用其過(guò)去在類(lèi)似技術(shù)和產(chǎn)品方面的研發(fā)經(jīng)驗(yàn),以滿足面向數(shù)據(jù)中心的高帶寬閃存日益增長(zhǎng)的需求。該開(kāi)發(fā)仍處于早期階段,尚未確定詳細(xì)的產(chǎn)品規(guī)格或量產(chǎn)時(shí)間表。
2025年11月,在日前舉行的2025OCP全球峰會(huì)上,SK海力士推出了名為“AIN系列”的全新產(chǎn)品線,其中就包含HBF。
AI-NB(Bandwidth)加大帶寬產(chǎn)品,通過(guò)垂直堆疊NAND芯粒來(lái)擴(kuò)大帶寬,做為彌補(bǔ)HBM容量增長(zhǎng)限制的解決方案。其關(guān)鍵在于將HBM的堆疊結(jié)構(gòu)與高密度且具成本效益的NANDFlash閃存結(jié)合,例如HBF。
另外,Kioxia于今年8月展示了一款5TB超高速HBF原型產(chǎn)品。其實(shí)現(xiàn)方式與閃迪的HBF堆疊閃存不同,Kioxia開(kāi)發(fā)的這款專(zhuān)為邊緣服務(wù)器設(shè)計(jì)的高速閃存驅(qū)動(dòng)器原型,采用串聯(lián)連接的閃存"珠鏈"架構(gòu),閃存珠鏈和控制器串聯(lián)連接到每個(gè)存儲(chǔ)板,而非總線連接方式,并使用PCIe6總線接口。
小結(jié):
韓國(guó)新榮證券數(shù)據(jù)顯示,預(yù)計(jì)到2030年,HBF市場(chǎng)規(guī)模將達(dá)到120億美元,雖然這僅占同年HBM市場(chǎng)規(guī)模(約1170億美元)的10%,但預(yù)計(jì)它將與HBM形成互補(bǔ),并加速其增長(zhǎng)。
Sandisk預(yù)計(jì)在2026年下半年交付其HBF閃存的第一批樣品,首批采用HBF的AI推理設(shè)備樣品將于2027年初上市。相信HBF技術(shù)憑借其大容量、高帶寬、低成本和低功耗等優(yōu)勢(shì),將成為AI推理的存儲(chǔ)新貴。
-
存儲(chǔ)
+關(guān)注
關(guān)注
13文章
4674瀏覽量
89471 -
HBM
+關(guān)注
關(guān)注
2文章
426瀏覽量
15685
發(fā)布評(píng)論請(qǐng)先 登錄
存儲(chǔ)“超級(jí)周期”,報(bào)價(jià)暫停、價(jià)格飛漲!
CES 2025 :AI影響下的存儲(chǔ)技術(shù)產(chǎn)品走向
400層閃存、HBM4、122TB SSD等,成為2025年存儲(chǔ)市場(chǎng)牽引力
半導(dǎo)體“HBM和3D Stacked Memory”技術(shù)的詳解
紫光國(guó)芯存儲(chǔ)芯片國(guó)產(chǎn)替代方案:打破DDR5/HBM芯片供應(yīng)鏈瓶頸
HBM技術(shù)在CowoS封裝中的應(yīng)用
SK海力士宣布量產(chǎn)HBM4芯片,引領(lǐng)AI存儲(chǔ)新變革
構(gòu)建HBF技術(shù)生態(tài),閃迪首批高帶寬閃存HBF 2026年出樣
突破堆疊瓶頸:三星電子擬于16層HBM導(dǎo)入混合鍵合技術(shù)
SK海力士HBM技術(shù)的發(fā)展歷史
存儲(chǔ)DRAM:擴(kuò)張與停產(chǎn)雙重奏
2025年HBM已售罄,存儲(chǔ)大廠加快HBM4進(jìn)程
不再是HBM,AI推理流行,HBF存儲(chǔ)的機(jī)會(huì)來(lái)了?

替代HBM,存儲(chǔ)大廠們進(jìn)軍HBF技術(shù)
評(píng)論