Hot Chips 2026：高带宽闪存（HBF）如何服务机器学习负载
来源：chipsandcheese.com — 排名 #11 · 29 分
📋 概述
Chips and Cheese 报道 Hot Chips 2026 教程日上关于高带宽闪存（HBF）的报告。HBF 复用 SSD 的闪存技术，却像 HBM 一样封装在处理器同一基板上，提供远高于 HBM 的容量和可观的带宽。由于无法随机访问，软件需以“存储设备”方式用 DMA 搬运数据，作者探讨了 MoE 专家与 KV 缓存下沉到 HBF 的适配策略。
🔑 核心要点
- HBF 将闪存以 HBM 式封装集成到处理器封装内，主打高容量与中等带宽。
- HBF 不支持细粒度随机访问，软件须用 DMA 分块搬运数据并承担 SSD 控制器职责。
- MoE 专家可按需 DMA 进 HBM，稀疏注意力下的 KV 缓存也可“冷”置 HBF 以缓解带宽压力。
💡 金句
HBF 几乎就是把一块 SSD 集成进了处理器——它改变了系统对内存的假设，也要求软件为它重写策略。
👍 0
👎 0
← 返回 Hacker News 首页