[闲聊] Jim Keller 曝设计关键在舍弃 HBM

楼主: DoraGian (饮冰)   2024-07-16 08:43:44
https://technews.tw/2024/07/15/us-chip-designer-tenstorrent-jim-keller-vs-nvidia
/
在典型的人工智能芯片组中,GPU 每次执行进程时向内存发送数据,这需要 HBM 高速数
据传输能力。然而,Tenstorrent 专门设计自己的芯片,以大幅减少这种传输。Keller 指
出,有了这种新方法,其公司芯片设计可在 AI 开发的某些领域取代 GPU 和 HBM。
此外,Tenstorrent 还在设计产品以尽可能实现成本效益,目前许多公司也在寻求更好的记
忆体解决方案,但 Keller 也坦承,要颠覆庞大的现有 HBM 产业,还需要数年时间。他也
预期,与其只由一间公司取代 NVIDIA,不如涌现更多新公司,填补美国公司未涉足的各种
人工智能市场。
Tentorrent 芯片主要特点是 100 多个核心中,每个核心都有小型 CPU,即“大脑中的微型
大脑”。通常情况下,单个芯片核心只有一个小型电脑和内存,只负责解决一个给定的任
务,但 Tenstorrent 的核心能独立“思考”,决定先处理哪些数据,或者放弃不必要的任
务,从而提高整体效率。
这样的话core的控制单元就变得复杂
核心数拉不上去
这样取舍不知道会不会更好
作者: tsairay (火の红宝石)   2024-07-16 11:00:00
未来是谁掌握芯片产能谁就掌握天下吧,新创公司没钱或排不到产能就没用了,苹果就算没必要还是砸钱包下GG的最新产能就是这样,多付的钱就是阻止竞争对手用的openAI想自己搞AI运算芯片结果没钱下单

Links booklink

Contact Us: admin [ a t ] ucptt.com