备注请放最后面 违者新闻文章删除
“HBM之父”：未来AI竞争看内存 未来3D架构决胜散热与供电 中美会追赶上来
钜亨网／记者　陈韦廷
被韩媒誉为“HBM 之父”的韩国科学技术院 (KAIST) 教授金正浩 (Kim Jung-ho) 醉心表
示，AI 的本质就是内存。
他在接受《东亚日报》专访时提出上述颠覆性观点时指出，过去业界过度聚焦模型算法与
GPU 算力，但当大模型实际运行时，注意力机制、上下文缓存 (KV Cache) 与推论生成
的每一个环节，都高度依赖内存系统的支撑。
金正浩表示，HBM 透过将多层 DRAM 垂直堆叠，大幅拓展资料传输的“车道数”，并生动
比喻称“传统记忆像 8 道高速公路，HBM 则是 1024，甚至 2048 车道，未来可能演进至
百万车道”。
然而，频宽的提升并未根除瓶颈。大模型在输出瞬间需频繁从 HBM 或未来的 HBF(高频宽
闪存) 读写资料，导致 GPU 绝大部分时间处于“等待资料抵达”的闲置状态。
金正浩估计，即便部署百万个 GPU，真正用于计算的时间仅约 10%，即便透过算法优化
，也很难超过 30%。
为解决“资料搬运”的能耗与延迟问题，金正浩预测未来 AI 运算将走向“以内存为中
心”。
他将理想的 3D 架构比喻为一栋百层大楼：“在一楼安装 GPU，资料只需搭电梯下楼计算
，整栋楼解决所有事，省去长途奔波。”从 HBM4 开始，部分 GPU 功能将整合进内存
结构中。
金正浩还进一步描绘三层异质内存指出，速度最快的 HBM(堆叠 DRAM) 扮演百货公司存
放热数据，容量巨大的 HBF(堆叠 NAND) 如同公寓楼群存放冷数据，而他提出的 HBS(高
频宽 SRAM) 则作为超低延迟的缓存。GPU/CPU 将置于顶层，专注于散热与调度。
金正浩特别点出，辉达执行长黄仁勋近期频繁访韩，正因 GPU 微架构的效能成长已近停
滞，且高发热特性使其难以像内存般大规模堆叠。
他认为，未来 3D AI 电脑的供电与散热能力将成核心竞争力，决定企业生死。这也意味
著拥有 DRAM 与 NAND 双重技术累积的三星与 SK 海力士，有机会在未来架构中占据核心
地位。
不过，金正浩也警示，这并非简单的“GPU 时代”切换为“内存时代”，而是 GPU、
HBM、先进封装、网络互连与散热的系统级竞赛。
面对中国业者积极自研 GPU/NPU 并带动本土内存发展的追赶压力，金正浩则对韩国业
界直言：“这是一场关系生存的长期竞争，只能努力活到最后。”
5.完整新闻连结 (或短网址)不可用YAHOO、LINE、MSN等转载媒体:
https://news.cnyes.com/news/id/6528299
6.备注:
※ 一个人一天只能张贴一则新闻(以天为单位)，被删或自删也算额度内，超贴者水桶，请注意
※ 备注请勿张贴三日内新闻(包含连结、标题等)