HBM之父金正浩：AI的本质是内存

7 月 6 日消息，被誉为“HBM 之父”的韩国科学技术院（KAIST）电气系教授金正浩近日接受《东亚日报》采访，核心观点可以归纳为一句话：AI算力竞争的本质已从"谁有更多GPU"转向"谁能用更高效的存储层级喂饱GPU"。

具体展开为五个递进判断：

1. GPU利用率被严重高估，内存才是真正的瓶颈。当前AI推理中，GPU真正用于计算的时间仅占10%-30%，其余70%-90%都消耗在HBM读取、数据搬运和结果回写的过程上。这意味着即便部署百万块GPU，决定产出的也不是核心数量，而是数据供给能力。

2. AI正从"训练驱动"进入"推理驱动"，内存权重进一步上升。训练时代GPU是性能核心，但推理时代的关键指标变成"一次能处理多少数据、以多快速度处理"，这完全由内存带宽和容量决定。

3. HBM只是当前解，HBF才是下一个十年的增量主角。多模态和Agentic AI爆发将产生海量视频、文档、长期记忆等冷数据。金正浩预测，将NAND闪存像HBM一样堆叠的HBF技术，10年后市场需求将超过HBM。

4. HBS是远期终极形态，用SRAM重构存储墙。采用比DRAM快1000倍的SRAM，在整片12英寸晶圆上铺设约1600GB容量，实现大容量高速数据处理，这是突破内存墙的最内层尝试。

5. 未来AI计算机将进化为"百层3D建筑"。HBM充当高频热数据的"商场"，HBF承载海量冷数据的"住宅区"，HBS承担近计算高速缓存功能。三种形态组合形成约100层规模的3D复合架构，通过先进封装与供电网络给GPU持续供数——存储层级的设计能力，将直接定义AI系统的性能天花板。