[新闻] 采台积电 5 奈米制程,Meta 下一代自研 A

楼主: strlen (strlen)   2024-04-11 18:10:58
原文标题:
采台积电 5 奈米制程,Meta 下一代自研 AI 芯片性能提升 3 倍
原文连结:
https://tinyurl.com/3czfhkta
发布时间:
2024 年 04 月 11 日 11:46
记者署名:
作者 陈 冠荣
Meta 去年公开首款自研芯片 MTIA(Meta Training and Inference Accelerator)成果
,第一代 MTIA(MTIA v1)即采台积电 7 奈米制程,下一代 MTIA 同样委由台积电生产

在英特尔、Google 发表最新 AI 芯片之后,Meta 10 日也公开自研芯片开发成果。MTIA
v1 后继产品官方称为下一代 MTIA(Next Gen MTIA),它执行的模型用于处理与 AI 推
荐系统相关的工作。与台积电 7 奈米制程建构的 MTIA v1 相比,下一代 MTIA 采用 5
奈米制程。
下一代 MTIA 配备更多处理核心,拥有更多 on-chip memory(256MB 对比 MTIA v1
128MB)和 off-chip LPDDR5(128GB 对比 MTIA v1 64GB),并以更高的平均时脉速度运
行,从 800MHz 上升到 1.35GHz,同时功耗增加(90W 对比 MTIA v1 25W)。
Meta 指出,下一代 MTIA 目前已投入 16 个资料中心区域使用。Meta 评估的四个关键模
型中,下一代 MTIA 性能比 MTIA v1 提升 3 倍,“由于我们控制整个堆叠,所以与商
用 GPU 相比,可以达成更高的运算效率”,Meta 部落格文章写道。
Meta 也透露,目前还没有使用下一代 MTIA 训练生成式 AI,尽管该公司声称有多项专案
正在进行。此外,Meta 承认下一代 MTIA 不会取代目前用于训练模型的 GPU,而是补充
运算资源。
英特尔最新发表 Gaudi 3,声称能源效率比 NVIDIA H100 芯片高 40%,推论速度快 50%
。Google 正向 Google Cloud 客户推出用于训练 AI 模型的 TPU v5p,并发表首款为资
料中心设计的 Arm 架构 Axion CPU。亚马逊拥有多款自研 AI 芯片,微软去年也已 AI
芯片 Azure Maia 100 和云端运算处理器 Azure Cobalt 100 参战。
Meta 近年不遗余力加强 AI 技术开发,自行研发客制化芯片以满足运算需求。该公司一
直是 NVIDIA H100 GPU 的大客户,今年底前 Meta 运算基础设施预计采购达到 35 万颗
H100。同时 MTIA 系列芯片开发也将加速进行,希望在 AI 军备竞赛赶上竞争对手。
心得/评论:
又是老黄包围网?
怎么一夕之间
人人都是芯片专家
纷纷自干芯片?
原来芯片根本没什么技术?
随便组个团队凑一凑就超辉赶微?
但不管是谁做的
通通都是要找台积电代工
而且还是训练跟推理通吃耶
什么时候台积电市值要超越辉达?
作者: gamesame7711 (框框爱安安)   2024-04-11 18:41:00
又赢债蛙
作者: Shepherd1987 (夜之彼方)   2024-04-11 18:50:00
AI server 吃电太凶, 没有第二选择
作者: gamesame7711 (框框爱安安)   2024-04-11 19:21:00
GG几年前有讨论要不要自有品牌 后来没下文
作者: findwind0826 (寻风)   2024-04-11 20:48:00
不知道说什么= =股板水准= =

Links booklink

Contact Us: admin [ a t ] ucptt.com