HBF首個標準來了，2038年需求將超越HBM

HBM之父此前稱：AI存儲時代將由HBF主導，2038年需求超越HBM。

今日，SK海力士與閃迪共同對外發布高帶寬閃存HBF（High Bandwidth Flash）首版完整標準規范，同步披露全套性能指標、生態伙伴布局與中長期技術路線。這套規范通過開放計算項目OCP正式對外公開，定位面向全行業的開放式通用標準，并非單一企業私有技術，將為AI基礎設施搭建全新存儲架構底座。

隨著大模型持續迭代，AI推理業務規模化落地，算力系統長期面臨內存墻桎梏。傳統架構中，HBM帶寬優異但容量受限、成本高昂；普通SSD容量充足，但傳輸帶寬難以匹配GPU、CPU實時數據吞吐需求。全新HBF被定義為架設在HBM與企業級SSD之間的新型存儲層級，融合兩項技術優勢，既擁有接近HBM的數據傳輸速率，又依托成熟NAND閃存實現大容量擴展，隨著AI推理業務普及，待處理數據量暴漲，HBF有望同時解決帶寬不足、容量難以擴展兩大難題。

此次標準落地，是雙方標準化合作的重要里程碑。早在2025年8月，SK海力士與閃迪啟動HBF聯合標準化工作，并在2026年2月組建HBF聯盟，歷經六個月推進完成首套規范定稿。根據官方披露技術參數，HBF設置8層、16層兩種NAND堆疊方案，單顆最高容量可達512GB；帶寬劃分Grade1至Grade3三個檔位，可實現0.4TB/s至3.0TB/s彈性擴展。互聯層面，HBF原生采用UCIe通用芯粒互聯標準，能夠靈活對接GPU、各類CPU與AI加速器，打破不同計算芯片之間的互聯壁壘，適配多樣化異構算力架構。

生態建設層面，谷歌、Tenstorrent已正式加入HBF聯盟，全程參與標準論證與技術驗證工作。SK海力士表示，將持續依托開放模式吸納產業鏈上下游廠商，不斷壯大聯盟規模，加速HBF在數據中心AI場景商業化落地，持續完善技術生態，提升產業普及度。

SK海力士解決方案開發負責人Kim Chun-sung以層級內存（Tiered Memory）架構為核心，提出適配未來AI算力集群的分層存儲解決方案。

SK海力士首次對外展出第十代（V10）375層4D NAND晶圓及樣品。相比前代產品，新品單位功耗性能提升2.5倍，高度契合數據中心AI基礎設施高能效運行要求。企業同步公布量產計劃，預計2027年初推出基于375層4D NAND打造的高性能大容量企業級SSD（eSSD），鞏固自身在AI NAND閃存賽道的競爭優勢。不過官方暫未對外公布HBF芯片明確量產時間表。

KimChun-sung在發布現場表示：AI應用快速普及，我們必須重新設計整套數據處理體系。依托HBF技術，SK海力士將消弭內存與存儲之間的邊界，助力打造能夠提升系統整體運行效率的全新硬件架構。

據了解，分層存儲架構已是AI基礎設施發展明確趨勢。當前行業主要依靠HBM承載算力側熱數據，依靠SSD承載海量冷數據，兩者之間長期存在性能斷層。HBF標準的推出填補了中間層級空白，尤其利好大模型推理業務。依托NAND成熟產業鏈，HBF有望平衡性能、容量與成本，給云廠商、AI企業提供全新硬件選型思路。

HBF是什么?如何比肩HBM

HBM在過去3年成為AI芯片的絕對核心，但當AI模型規模進入萬億級、推理場景快速擴張，原本由HBM承擔的容量與帶寬需求全面擠爆，使存儲系統瓶頸逐漸從帶寬不足轉向容量不夠，因此，由SanDisk所提出、并獲SK海力士與三星同步跟進的HBF，被視為有機會補上HBM無法跨越的容量與成本限制，并在AI inference時代扮演全新角色。

從技術角度來看，HBF的概念并不是把SSD直接接在GPU旁，而是讓NAND Flash以像HBM那樣的方式運作。傳統NAND的讀寫需經過PCIe、控制器等層層轉接，因此延遲高、帶寬有限；但HBF改變了NAND的使用方式，把多層NAND像HBM一樣垂直堆疊，并通過高密度的互連讓數據能被并行讀取。換句話說，它不是更快的SSD，而是一種被重新設計成高帶寬存儲的NAND。這讓HBF能夠保留NAND的優勢，如容量大、成本低、可堆疊等，卻在結構上更接近內存級的高速存取。

SanDisk此前在投資日上展示的原型結果即讓市場為之一震。通過BiCS 3D NAND堆疊與CBA（CMOS Bonded Array）架構，16層HBF的容量已可達到HBM的8到16倍，同時維持相近的成本帶。HBM設計因DRAM堆疊高度有限，天生難以突破容量天花板，但NAND能以百層甚至千層堆疊擴展存儲密度，使HBF在不大幅增加制程成本的前提下，輕松跨過TB級別。

一顆HBM GPU通常搭載8顆HBM，頂多提供192GB DRAM；但SanDisk表示，HBF可讓單一GPU擁有高達4TB的非易失性存儲器（NVM）。以GPT-4為例，1.8萬億參數的模型需要3.6TB內存才能完整載入，在傳統架構中，必須拆分至多顆GPU、依賴頻繁跨GPU數據搬移，造成延遲與能耗；而若使用HBF，整個模型得以直接在單顆GPU上駐留，顛覆現有多GPU sharding的推理架構，讓大模型推理變得更快、更省電，也更具成本效益。

這種巨大容量+高帶寬的組合，使HBF被視為能推動AI手機與邊緣AI前進的關鍵因素。過去AI智能手機難以突破瓶頸，是因為DRAM容量遠不足以讓百億級模型在端側設備執行，只能依靠縮小版模型勉強運作。SanDisk執行副總裁兼首席技術官Alper Ilkbahar指出，未來一顆HBF芯片就能容納約64GB容量，足以塞入640億參數的MoE中型模型。換句話說，更完整的大模型推理將有機會在邊緣設備本地實現，為AI手機、AI眼鏡、邊緣計算設備開啟新敘事。

回到存儲產業本身，HBF能撬動HBM位置，并非因為它更快，而是它正好補上AI時代最痛的那塊容量深淵。HBM高成本、低良率及堆疊高度的技術瓶頸使其很難在TB時代擔任唯一存儲支柱。AI推理需要的是能容納更大KV緩存、更深上下文、更復雜多模態數據的大容量近端存儲器，而HBF恰恰在此提供了足夠大、足夠快、足夠便宜的平衡點。

盡管HBF的出現讓產業看見突破AI存儲容量瓶頸的新希望，但它能否真正撼動HBM的核心地位，仍必須回到技術現實本身。SanDisk與SK海力士都坦言，HBF并不是HBM的直接替代方案，原因在于NAND與DRAM的先天架構差異，使HBF再怎么強化帶寬，也無法跨越延遲的物理限制。

互補還是取代?

HBM作為DRAM架構，具備極低隨機訪問延遲與超高帶寬，才能承載GPU在模型推理或矩陣運算時的高速數據交換；而NAND的訪問時間遠高于DRAM，就算通過垂直堆疊與并行讀寫改善帶寬，其反應速度仍無法支持實時計算。也因此，HBF的定位從一開始就不是取代HBM，而是填補HBM在容量與成本上的巨大缺口。

在實際應用上，這樣的差異決定了兩者的邊界。HBM是GPU在訓練與推理時最核心的高速工作內存，所有計算過程中的權重、模型每一層產生的中間結果（activation），以及大量矩陣計算所需要的臨時數據，都必須存放在延遲最低的內存中，HBF無法勝任這種高速互動；但當模型尺寸突破TB級、KV緩存需求急速膨脹時，HBM再快也塞不下這些數據，這時，HBF的容量便成為必需品。換句話說，HBF是為了讓模型放得下、而HBM是為了讓模型跑得動，兩者在架構中的關系是互補，而非替代。

HBM之父金正浩教授：AI內存時代將由HBF主導，2038年需求超越HBM

被稱為高帶寬內存（HBM）之父的韓國科學技術院（KAIST）金正浩教授預測，能超越HBM限制的高帶寬閃存（HBF）最快將于明年底商用化，并在大約十年后的2038年，HBF的市場需求將超越HBM。這意味著AI的進化正從計算中心，轉向處理龐大記憶的內存中心架構。

金正浩教授今年2月在首爾舉行的HBF研究介紹及技術開發戰略說明會上表示：AI時代將迎來每人需要100TB（太字節）內存的“內存饑渴”時代，并解釋：負責速度的熱內存將由HBM擔綱，而存儲龐大歷史信息的冷內存則由HBF負責。HBF是一種將斷電后仍能存儲數據的NAND閃存進行垂直堆疊，以同時實現大容量與高速數據傳輸（高帶寬）的下一代存儲技術。

根據金教授的說法，隨著AI進化為能同時處理文字、圖像、語音、視頻的多模態AI，以及超越簡單問答、能執行連續性任務的智能體AI，需要處理的數據量與復雜性正爆炸性增長。特別是在AI理解上下文并生成文字的過程中，會產生一種稱為鍵值緩存（KV Cache）的數據，其規模會隨著上下文長度增加，從數百GB（吉字節）擴大到TB（太字節）級別。金教授指出：HBM無論如何堆疊，其容量極限約在200GB左右，并強調：當KV緩存增長到數百GB甚至TB級別時，單靠HBM在結構上將無法負荷。

HBF被提出作為此問題的解決方案。金教授將HBM與HBF的關系比喻為圖書館。他解釋：如果HBM是放在書桌上的參考書，那么HBF就是旁邊的書架。換言之，他預測一種混合內存架構將成為AI計算的新標準：實時計算所需的數據由HBM負責，而長期需要參考的龐大記憶則由HBF負責。

此技術轉變也與全球AI生態的動向相符。GPU龍頭企業英偉達（Nvidia）已宣布，將在其下一代架構Vera Rubin中，納入用于存儲AI對話上下文的專用平臺推理上下文內存存儲（Inference Context Memory Storage，ICMS）。業界普遍推測，HBF極有可能被采用為此平臺的核心存儲。

金教授也提出了未來十年的HBF發展藍圖。他說明，HBF將在2027年底至2028年左右開始初期商用化，應用于AI推理工作，并逐漸進化為與HBM整合的混合內存架構。根據他的研究，HBF市場規模預計將在2038年超越HBM市場。

*聲明：本文系原作者創作。文章內容系其個人觀點，我方轉載僅為分享與討論，不代表我方贊成或認同，如有異議，請聯系后臺。