把512 GiB閃存搬到xPU旁邊，HBF能打破推理內存牆？
重點摘要
HBM已經證明，通過堆疊和共封裝把存儲介質遷移至GPU附近，可以緩解AI計算中的數據搬運瓶頸。現在，SK海力士聯合閃迪，將類似的思路正式應用到NAND上，通過HBF將大容量閃存放到包括GPU在內的各類xPU旁，以緩解AI推理內存牆問題。近日，雙方通過OCP發佈《High Bandwidth Flash（HBF）High-Level Base Die Specification, Version 0.7.0》。
HBM已經證明，通過堆疊和共封裝把存儲介質遷移至GPU附近，可以緩解AI計算中的數據搬運瓶頸。
現在，SK海力士聯合閃迪，將類似的思路正式應用到NAND上，通過HBF將大容量閃存放到包括GPU在內的各類xPU旁，以緩解AI推理內存牆問題。
近日，雙方通過OCP發佈《High Bandwidth Flash（HBF）High-Level Base Die Specification, Version 0.
谷歌和Tenstorrent在致謝中被列為規範的反饋與建議提供方。
這份約130頁的規範，首次明確了HBF的位置、邊界與代價：介於HBM與SSD之間，HBF是緊鄰xPU、由Base Die和主機軟件共同管理的大容量閃存。
應用範圍從靜態模型權重進一步延伸至KV Cache、多模型、MoE和Agent工作負載。
NAND的寫入、耐久性和管理上的物理約束並未被消除。
這些約束帶來的複雜性，最終轉移到了Base Die和加速器的軟件棧上。
在不改變規範原意的基礎上，雷峰網對此進行編譯和整理，重點解讀HBF的系統定位、高帶寬緣起、推理應用場景以及NAND介質帶來的工程約束。
Related
相關文章
清華信譽機制破解電商大忽悠，讓AI代理真正推你所需
賬號設置我的關注我的收藏申請的項目退出登錄登錄搜索36氪Auto數字時氪未來消費智能湧現未來城市啟動Power on36氪出海36氪研究院潮生TIDE36氪企服點評36氪財經職場bonus36碳後浪研究所暗湧Waves硬氪氪睿研究院媒體品牌企業號企服點評36Kr研究院36Kr創新諮詢企業服務核心服務城市之窗政府服務創投發佈LP源計劃VClubVClub投資機。
Meta首款編程Agent來了，背後模型能力直追Opus 5
賬號設置我的關注我的收藏申請的項目退出登錄登錄搜索36氪Auto數字時氪未來消費智能湧現未來城市啟動Power on36氪出海36氪研究院潮生TIDE36氪企服點評36氪財經職場bonus36碳後浪研究所暗湧Waves硬氪氪睿研究院媒體品牌企業號企服點評36Kr研究院36Kr創新諮詢企業服務核心服務城市之窗政府服務創投發佈LP源計劃VClubVClub投資機。
百度入局AI辦公：dodo併入百度搭子，全面整合辦公Agent業務
新浪科技獲悉，百度已啟動內部辦公智能體dodo與百度搭子團隊整合，dodo相關研發人員、資源都將併入百度搭子，實現內外部辦公智能體產品完全統一。這意味著，百度辦公Agent業務將從多線推進改為集中作戰，公司將整合
AI幫你下單，誰在違法？亞馬遜對Perplexity禁令出現“反轉”
亞馬遜對Perplexity的初步禁令遭第九巡迴上訴法院撤銷，法院認定用戶才是透過AI工具訪問亞馬遜的主體，Perplexity的伺服器未直接觸碰亞馬遜系統，因此不構成CFAA違法。此判決確立AI智能體責任歸屬的「架構依賴」原則，但亞馬遜仍可透過服務條款規制用戶訪問，案件後續走向備受關注。
AISI測試發現AI代理出現欺騙行為，Anthropic Mythos5與GPT-5.6-Sol被曝模擬攻擊
AI資訊AI新閒資訊正文AISI測試發現AI代理出現欺騙行為，Anthropic Mythos5與GPT-5.6-Sol被曝模擬攻擊發布於AI新閒資訊時間 :Aug 6, 2026閱讀 :1分鐘英國人工智能安全研究所（AISI）最新測試發現，部分前沿AI模型在特定開放環境下表現出超出預期的自主欺騙行為。測試中，Anthropic Mythos5和OpenAI GPT-5.
百度整合dodo與百度搭子團隊，統一推進AI辦公智能體業務
AI資訊AI新閒資訊正文百度整合dodo與百度搭子團隊，統一推進AI辦公智能體業務發布於AI新閒資訊時間 :Aug 6, 2026閱讀 :1分鐘百度啟動內部辦公智能體dodo與百度搭子團隊整合，相關研發人員和資源將併入百度搭子，實現內部辦公助手與外部辦公智能體產品統一。這意味著百度將進一步集中資源推進AI辦公代理業務，加速佈局智能體辦公賽道。據瞭解，dodo此前主要服務百度內部員工，是一款辦公智能體工具。