AI推理时代,闪迪HBF和3D Matrix Memory两大创新技术突破存储墙

原创2026-08-25 10:21:34浏览550
550
Star

 

在 2026 闪迪投资者日上,面向 AI 时代的下一代存储技术路线,公司正式披露HBF 高带宽闪存与3D Matrix Memory两大前沿技术的最新研发进展,旨在破解 AI 产业普遍遭遇的 “内存墙” 瓶颈,适配 MoE 混合专家大模型、百万级超长上下文、大规模 KV 缓存爆发式增长的内存诉求,推动行业全面迈入以内存为中心的 AI 推理新阶段。

HBF

当前 AI 产业发展逻辑已经发生根本性转变,推理成为行业落地主战场,系统范式由算力优先转向以内存为中心。从Grok4、GLM5.2、GPT5.6、Kimi K3 等主流大模型发展现状,可以看到行业呈现两大明确趋势,一方面模型参数量持续走高,上下文窗口向着十万、百万字符级别拓展;另一方面 MoE 混合专家架构普及,有效分摊单轮计算算力开销。算力不再是 AI 系统的最大约束条件,大容量、高带宽内存资源,才是限制推理吞吐、并发会话规模的核心短板。

 

 

传统 HBM 高带宽内存虽然带宽表现优异,但受物理堆叠工艺限制,容量天花板明显,同时芯片供给紧张、成本居高不下,已经难以匹配大模型推理对权重、KV 缓存的海量存储诉求,内存墙矛盾持续放大。

 

针对行业痛点,闪迪重磅推出 HBF(HighBandwidth Flash,高带宽闪存)技术方案。HBF 基于成熟 BiCS 3D NAND,结合 CBA 晶圆键合、超低形变堆叠工艺打造,读取带宽可对标 HBM,单颗器件容量最高能够达到 HBM 的 816 倍,专门面向 MoE 大模型、超长上下文、大规模 KV 缓存推理场景设计。

仿真测试数据显示,同等封装形态下,HBF 整机带宽可达 12.8TB/s,搭载 HBF 的单颗 xPU 最高可实现 4TB 存储容量,对比传统 HBM 仅有 192GB。在实际业务场景中,4 台搭载 HBF 的加速卡即可实现 8 张传统 HBM GPU 同等 Token 输出性能,资本支出效率提升 8 倍,GPU 硬件利用率实现翻倍,能够显著减少推理集群 GPU 部署数量,降低大模型落地的硬件门槛。

 

 

在架构定义阶段,闪迪深度吸纳头部云厂商、AI 芯片企业的实际业务反馈,优先解决多轮 Agent 交互、高并发推理下显存容量不足的现实难题。

架构层面,HBF 提供四种灵活部署模式,给服务器硬件厂商充分的设计自由度:纯 HBF 直接替换 HBM、HBMHBF 混合缓存、HBF 扩容 HBM 容量、内存池化解耦架构。企业既可以直接用 HBF 替代原有 HBM,也可以构建分层存储体系,HBM 承担低延迟高速缓存任务,HBF 承载模型权重与海量 KV 缓存,兼容不同厂商的 AI 加速硬件设计思路。

 

路线图披露,第一颗 HBF 存储芯片已经完成 TapeOut 流片,放出实际芯片裸片照片;面向 AI 推理的 HBF 产品样片将于 2027 年推出。第二代 HBF 同步与多家客户联合开发,目标把百亿参数以上大模型部署到手机、AR 眼镜、人形机器人等边缘终端设备。

 

 

 

 

HBF 标准已经建立起 OCP 开放产业联盟,2026 年 8 月发布正式规范。完整时间节点清晰:

 

 

 

2025 年 8 月:闪迪与 SK 海力士首次对外公布 HBF,双方达成标准化合作,在 FMS 闪存峰会正式对外发布构想。

2026 年 2 月:HBF 技术产业联盟正式成立,在 OCP 开放计算项目下设立专项工作组,初始成员包括闪迪、SK 海力士、Google、Tenstorrent。

 

2026 年 8 月:发布第一版 HBF 正式技术规范,同时联盟迎来重要新成员 Meta,生态阵营进一步扩大。

 

2027 年:推出迭代版本的代际技术规范,持续更新 HBF 技术发展路线。

 

行业参与者持续扩容,意味着 HBF 不再是单一厂商私有技术,正在朝着开放行业标准演进,为后续服务器、端侧硬件的规模化落地奠定生态基础。

 

3D Matrix Memory 高密度存储技术

除 HBF 之外,闪迪同步对外披露远期技术路线 ——3D Matrix Memory 高密度存储技术的研发里程碑。该项目自 2017 年启动研发,早期依托 150mm 研发产线完成器件与存储阵列基础验证,后续联合 IMEC 比利时微电子研究中心攻坚 300mm 标准化产线工艺。截至本次投资者日,项目已经成功产出 300mm 规格晶圆与封装样品,完成多 Gb 级别存储阵列功能验证,性能指标已经接近量产规格,正在稳步开展各项技术认证。

 

作为面向更远未来的超高密度备选存储路线,该技术目标实现单位比特成本约为 DRAM 的一半,容量可达 DRAM 四倍,为 AI 数据中心长期存储演进储备底层技术能力,目前暂未公布商业化时间表。

 

闪迪同时给出行业规模预判,到 2030 年,全球 AI 数据中心存储市场整体规模将达到 1.2ZB,Staging 模型暂存、大规模 KV 缓存、高速数据湖将成为三大核心业务负载,而 KV 缓存正是 HBF 重点解决的核心场景。随着推理业务成为 AI 行业的主战场,数据中心基础设施的评估逻辑正在发生转变,传统 TCO 总拥有成本指标已经不足以完整衡量 AI 系统价值,TVO 总拥有价值逐步成为新标尺,系统价值的评判标准转变为每美元投入、每瓦特功耗能够产出多少 Token。

HBF 与 3D Matrix Memory 共同组成闪迪面向 AI 时代的完整技术矩阵,补齐 AI 推理场景大容量、高带宽存储短板,覆盖 Fast Data Lakes 高速数据湖、模型暂存、持久化 KV 缓存等全链路 AI 数据需求,支撑 ZB 级别 AI 存储的爆发式增长。HBF 解决近中期推理内存瓶颈,而 3D Matrix Memory 面向更长期的下一代存储变革。