低价挑战 NVIDIA！芯片大神 Jim Keller 曝设计关键是“舍弃 HBM”
https://tinyurl.com/23cvjvhj
传奇芯片设计师 Jim Keller 打算设计比 NVIDIA 更高效的芯片，以降低 AI 应用价格并
抢占市占率。
Jim Keller 目前任 AI 芯片新创 Tenstorrent 执行长，认为很多市场 NVIDIA 都没服务
到，随着 AI 应用扩展到智慧手机、电动车和云端服务，越来越多公司寻求更便宜的解决
方案，很多小公司不愿为 NVIDIA 高阶 GPU 支付 2 万美元。
Jim Keller 在芯片设计界享有盛誉，也是 AMD Zen 系列的首席设计师，许多人认为他帮
助 AMD 东山再起、奋力追上英特尔。他也是开发特斯拉自驾软件 Autopilot 芯片组的重
要人物。
日本人工智能独角兽公司 Preferred Networks 运算架构部门副总裁兼技术长
Junichiro Makino 形容“Jim Keller 简直就是传奇”。
设计 AI 芯片时，选择舍弃关键的 HBM
Tenstorrent 成立于 2016 年，准备年底推出第二代多用途 AI 芯片，称某些领域比
NVIDIA AI GPU 更高能效和处理效率。Galaxy 系统比 NVIDIA DGX 效率高三倍，价格更
便宜 33%。
Keller 之所以能做到这点，是因 Tenstorrent 没用高频宽内存（HBM）。“即使有用
HBM 的人，也为成本及构建 HBM 所需设计时间挣扎，决定不用此技术。”
HBM 是生成式 AI 芯片的重要零件，对 NVIDIA 产品成功有重要作用，然也是 AI 芯片能
耗巨大、价格高昂的罪魁祸首之一。
典型人工智能芯片组，GPU 每次执行进程时向内存发送数据，需 HBM 高速数据传输能
力。Tenstorrent 设计自己的芯片，大幅减少传输。Keller 指有了新方法，
Tenstorrent 芯片可在 AI 开发某些领域取代 GPU 和 HBM。
Tenstorrent 也设计产品以尽可能实现成本效益，许多公司也在追求更适合的内存解决
方案，但 Keller 也坦承，要颠覆庞大 HBM 产业，还需数年时间。他预期与其一间公司
取代 NVIDIA，不如出现更多新公司，填补美国公司未涉足的各种人工智能市场。
Tentorrent 芯片特点是百余个核心，每核心都有小型 CPU，即“大脑中的微型大脑”。
通常情况单芯片核心只有一个小型电脑和内存，只负责解决一个任务，但
Tenstorrent 核心能独立“思考”，决定先处理哪些数据，或放弃不重要任务，提高整
体效率。
Tentorrent 指每个核心都相对独立，可将更多或更少核心堆叠起来，应用更广泛。智慧
手机或穿戴设备只需少量芯片，AI 资料中心可将 100 个芯片组合，用途更灵活。
Keller 说还无法预测 AI 最佳应用是什么，因此公司策略是打造出适合各种产品的技术
。
U.S. chip designer aims to bring down AI prices pushed up by Nvidia